Vendor Strategy
Important
Medium
90% Confidence
英特尔在MLPerf推理测试中展示Xeon 6与Arc Pro GPU的AI性能
内容摘要
英特尔在MLPerf Inference v6.0基准测试中展示了其Xeon 6 CPU和Arc Pro B系列GPU的性能，特别是在处理大型语言模型（LLM）时的表现。测试结果显示，配备四块Arc Pro B70 GPU的系统能够处理120B参数的模型，并在多GPU设置中提供高达1.8倍的推理性能提升。
核心要点
英特尔公布了其在MLPerf Inference v6.0基准测试中的表现，重点展示了Xeon 6 CPU和Arc Pro B系列GPU的性能。测试中，四块Arc Pro B70 GPU组成的系统具备128GB VRAM，能够高效运行120B参数模型，并在多GPU环境下实现高并发处理。
英特尔强调其软件优化和容器化堆栈能够从单节点扩展到多GPU企业部署，提升性能并降低延迟。此外，Xeon 6处理器在MLPerf Inference v5.1中实现了1.9倍的代际性能提升。
英特尔强调其软件优化和容器化堆栈能够从单节点扩展到多GPU企业部署，提升性能并降低延迟。此外，Xeon 6处理器在MLPerf Inference v5.1中实现了1.9倍的代际性能提升。
重要性说明
英特尔的这一表现强化了其在AI推理基础设施领域的竞争力，尤其是在边缘计算和工作站场景中。其多GPU解决方案为企业提供了更具成本效益的AI推理选择。...