亚马逊AWS扩展Trainium和Inferentia AI芯片部署,与Cerebras合作加速推理
内容摘要
AWS继续扩展其自研AI芯片Trainium和Inferentia的部署。AWS Trainium2芯片提供比第一代Trainium最高4倍的性能,基于Trainium2的EC2 Trn2实例和Trn2 UltraServers专为生成AI构建。AWS与Cerebras Systems宣布合作,将在Amazon Bedrock上部署最快的AI推理解决方案,结合AWS Trainium服务器和Cerebras技术。AWS还计划在全球所有区域部署总计超过100万块NVIDIA GPU,P6-B200实例可将AI训练与推理性能最高提升2倍。
觉得这篇分析有用?
每周收到3-5条AI基础设施关键信号 →
💬 评论 (0)