AMD宣布推理占AI负载60%,发布嵌入式AI处理器,与Meta签6GW协议
内容摘要
核心要点
AMD在其Advancing AI 2026活动中披露了多项关键进展。CEO Lisa Su表示,月度token消耗在两年内增长了158倍,推理工作负载现已占AI总工作负载的60%,而训练占比降至40%,比例与2024年相反。这一数据标志着AI部署的重心正从模型训练转向推理服务。
在产品方面,AMD发布了Ryzen AI Embedded X100处理器系列,该系列整合了CPU、GPU和NPU加速单元,专为机器人、工业自动化和智能嵌入式系统设计,旨在支持物理AI(Physical AI)应用。客户采样于2026年6月开始,预计2026年第四季度投入生产。
在合作伙伴关系上,AMD与Meta宣布了一项为期多代的Instinct GPU协议,总功率容量达6吉瓦(6GW),表明Meta将在其数据中心大规模部署AMD GPU。此外,AMD正在为美国主权AI工厂(US Sovereign AI Factory)的超级计算机Lux提供核心组件,包括MI355X GPU、EPYC CPU以及Pensando网络解决方案,该系统已于2026年初部署。
在系统层面,HPE Cray GX5000搭载AMD EPYC处理器,每机架可提供81,920个核心,展示了AMD在高密度计算领域的竞争力。
重要性说明
AMD强调推理占比60%,实质是在防守NVIDIA的训练霸主地位,试图在推理领域开辟战场。然而,其ROCm软件栈相比CUDA在大模型推理的算子覆盖和尾部延迟优化上仍显薄弱。Ryzen AI Embedded X100对标NVIDIA Jetson,但AMD的嵌入式生态支持远不及对手,模型移植成本和工具链成熟度是潜在陷阱。
与Meta的6GW协议虽振奋,但Meta自研芯片(MTIA)长期威胁AMD供应地位。AMD通过Pensando网络捆绑销售,意图锁定用户于全套方案,但Pensando的RoCEv2网络在超大规模场景下的PFC/ECN拥塞控制瓶颈和尾部延迟表现未经验证,相比InfiniBand可能成为性能短板。美国主权AI工厂采用单一AMD供应链,替换成本极高。
AMD刻意淡化MI355X的推理性能指标,未与NVIDIA Blackwell直接对比,暗示其在推理吞吐量或能效上可能不占优势。企业应警惕隐性迁移成本和软件生态锁定。
PRO 决策建议
【厂商】NVIDIA应利用CUDA生态的成熟度和TensorRT在推理优化上的优势,直接对比AMD的推理性能短板,并加强嵌入式AI产品如Jetson Orin的软件支持,以压制Ryzen AI Embedded X100。Intel可强调其OpenVINO工具链和嵌入式处理器(如Atom x7000)的能效,同时联合OEM提供开放方案。
【企业】CIO和架构师应进行独立基准测试,对比AMD MI355X与NVIDIA Blackwell在典型推理工作负载(如LLM、多模态模型)下的吞吐量和尾部延迟。评估Pensando网络与现有RoCEv2或InfiniBand基础设施的集成成本,避免被锁定在AMD全套方案。考虑多供应商策略,保持跨平台可移植性(如使用PyTorch等框架)。对Meta的长期承诺保持谨慎,关注其自研芯片进展。
【投资者】应看到AMD在AI基础设施领域的进展,但需关注其推理市场份额的实际增长和软件生态的完善速度。Meta协议虽大,但Meta的自研芯片计划可能削弱长期价值。同时,AMD的利润率受制于Instinct GPU的定价竞争和Pensando的整合成本。建议关注AMD在推理性能基准测试中的表现,以及其嵌入式AI产品的客户采纳率。
觉得这篇分析有用?
每周收到3-5条AI基础设施关键信号 →
💬 评论 (0)