AMD 2026-07-25
Technology Integration 影响: Important 置信: 85%

AMD与Cerebras合作分解式AI推理,WSE-3芯片突破延迟极限

内容摘要

AMD与Cerebras推出分解式AI推理方案,将Helios Rackscale系统(第六代EPYC Venice处理器+最多72颗MI455X GPU)与Cerebras WSE-3(4万亿晶体管)通过Infinity Fabric互联,旨在为AI推理提供超低延迟与高吞吐量,挑战传统GPU集群架构。

核心要点

AMD与Cerebras Systems在Advancing AI 2026大会上宣布技术合作,推出新型分解式AI推理解决方案。该方案将AMD的Helios Rackscale系统与Cerebras的Wafer-Scale Engine (WSE-3) 相结合,通过Infinity Fabric高速互联,实现计算与内存的分解式架构,旨在为先进AI应用提供超低延迟推理,同时大幅提升吞吐量和效率。

Helios Rackscale系统配备第六代EPYC 'Venice'处理器和最多72颗Instinct MI455X GPU,专为大规模AI推理集群设计。Cerebras WSE-3拥有4万亿晶体管,提供极致的片上内存带宽,减少数据移动带来的延迟。这种分解式设计允许推理任务在CPU、GPU和WSE之间灵活分配,优化特定工作负载。

该方案针对AI推理中的延迟和吞吐量瓶颈,通过将Cerebras的高带宽片上内存与AMD的高性能计算单元结合,试图在模型推理速度上实现数量级提升。AMD强调其Infinity Fabric的低延迟特性,确保各组件间高效协同。此举旨在挑战NVIDIA在AI推理硬件市场的主导地位,为数据中心提供替代选择。

重要性说明

表面上看,AMD与Cerebras的合作是在AI推理性能上挑战NVIDIA,但更深层的是,AMD试图通过分解式架构Infinity Fabric互联,构建一个从CPU到GPU再到专用加速器的闭环生态,以锁定用户的数据中心基础设施。用户一旦采用Helios Rackscale和Cerebras WSE-3,将被迫使用AMD的CPU和互联技术,难以切换至其他厂商(如Intel或NVIDIA)的组件。

然而,该方案存在明显的工程短板:Cerebras WSE-3的巨大晶圆尺寸导致功耗和散热挑战极其严峻,且良率问题可能推高成本,使其仅适用于少数超大规模客户。分解式架构虽然理论上减少数据移动,但实际跨芯片通信(CPU到GPU再到WSE)可能引入尾部延迟,抵消片上内存优势。此外,AMD的Infinity Fabric虽宣称低延迟,但在大规模集群中的实际表现尚未验证,可能成为性能瓶颈。

更关键的是,AMD和Cerebras在软件生态上远弱于NVIDIA的CUDA。用户需要依赖AMD的ROCm和Cerebras的定制编译器,这增加了开发复杂性和迁移成本。该方案可能故意淡化软件兼容性模型支持范围,只强调硬件峰值性能,而实际推理吞吐量可能受限于软件优化程度。

PRO 决策建议

【厂商】NVIDIA应加速推出基于NVLinkGrace Hopper的分解式推理方案,强调其CUDA生态的成熟度和模型兼容性,同时攻击Cerebras WSE-3的功耗和成本陷阱,展示传统GPU集群在通用性和TCO上的优势。Intel可联合Habana Labs推广Gaudi系列,强调其开放性和可编程性,避免被AMD-Cerebras锁定。

【企业】CIO和架构师应进行严格的技术审计:要求AMD和Cerebras提供独立基准测试,覆盖多种模型(如LLaMA、GPT-4),并关注尾部延迟功耗指标。评估Infinity Fabric在跨机架场景下的实际带宽和时延,避免被宣传数据误导。同时,确保软件栈(ROCm、Cerebras SDK)支持主流框架(PyTorch、TensorFlow),并考虑多供应商可移植性,以防被锁定。

【投资者】警惕AMD-Cerebras合作的长期锁定风险成本不可预测性。Cerebras的晶圆级芯片技术虽具突破性,但良率和规模化问题可能限制其市场渗透。投资者应关注该方案的实际客户采纳案例和TCO对比,而非峰值性能宣传。同时,注意NVIDIA的反击动作,如更成熟的分解式推理方案,可能削弱AMD-Cerebras的竞争力。

来源: AMD Newsroom
查看原文 →

觉得这篇分析有用?

每周收到3-5条AI基础设施关键信号 →

💬 评论 (0)