DeepSeek R1推理性能提高了3.8倍,AMD推出了下一代

日期:2025-06-14 浏览:

他在6月13日报道说,AMD今天早上举办了2025年初的活动。随着ROCM 7的发布,AMD最终从ROCM 6软件电池中进步。近年来,这已经收到了多次更新,特别是自AI计算出现以来。以下是AMD侧重于ROCM 7:最新算法和模型的一些功能,以攀登AI的高级特征,支持通过ROCM进行集群管理业务审查功能。 ROCM 7电池包括VLLM V1,LLM-D和SGLANG等扩展帧,并专注于提供各种优化。未来的新ROCM 7核和算法包括带有总部的Gemm自动调整,Moe,Atterness和Python总部。 AMD宣布了对MI350系列的FP6和FP4支持。 ROCM7还包括对这些高级数据类型的全部支持,例如FP8,FP6,FP4和Hybrid Precision。 AMD说,从表演的角度来看,ROCM 7专注于推理和不将D对AI工作负载产生高达3.5倍的性能改进。具体而言,与ROCM 6相比,呼叫3.1 70b的ROCM 7增加了3.2倍,QWEN2-72B增加了3.4倍,而Deep Speek R1增加了3.8倍。

0
首页
电话
短信
联系