Architecture Shift
影响: Important
强度: High
置信: 85%
AMD与Liquid AI探讨从芯片到系统的高效AI架构
内容摘要
AMD CTO与Liquid AI CEO探讨AI架构演进，强调效率是AI从云端向边缘和终端设备扩展的关键。双方认为，通过从芯片到系统的协同设计，可实现低功耗、高响应性的AI推理，支持持续运行的智能体与多模型协同。
核心要点
AMD CTO Mark Papermaster与Liquid AI CEO Ramin Hasani在对话中指出，当前AI发展正面临计算强度、能耗和延迟的挑战。单纯扩大模型规模不可持续，下一阶段将由效率定义。
Liquid AI专注于构建专为硬件优化的紧凑型基础模型，旨在直接在NPU等处理器上高效运行，实现低功耗持续推理。这支持了从被动AI助手向主动、持续运行的本地智能体（Agent）的转变。
双方强调，将合适的推理任务从云端转移到高效设备，不仅能降低整体能耗、满足可持续发展需求，还能增强安全与隐私控制，为AI在数十亿设备上的规模化部署奠定基础。
Liquid AI专注于构建专为硬件优化的紧凑型基础模型，旨在直接在NPU等处理器上高效运行，实现低功耗持续推理。这支持了从被动AI助手向主动、持续运行的本地智能体（Agent）的转变。
双方强调，将合适的推理任务从云端转移到高效设备，不仅能降低整体能耗、满足可持续发展需求，还能增强安全与隐私控制，为AI在数十亿设备上的规模化部署奠定基础。
重要性说明
这代表了AI基础设施的架构重心转移，从依赖云端集中式训练/推理，转向一个由高效边缘和终端设备构成的分布式推理层。企业IT架构需为本地AI智能体（Agent）和混合部署模式做好准备。
PRO 决策建议
**技术突破型**
- **厂商**：应投资于从芯片到系统的垂直优化能力，特别是NPU与软件栈的深度集成，以在即将到来的分布式AI推理市场中建立性能与能效优势。
- **企业**：需评估本地AI推理（特别是Agent场景）对现有终端设备、网络架构和安全策略的影响，并规划在未来12-18个月内进行试点部署。
- **投资者**：关注AI推理价值链从云端向边缘的迁移，监测能效指标和本地AI应用采纳率，以判断替代曲线的加速点。
- **厂商**：应投资于从芯片到系统的垂直优化能力，特别是NPU与软件栈的深度集成，以在即将到来的分布式AI推理市场中建立性能与能效优势。
- **企业**：需评估本地AI推理（特别是Agent场景）对现有终端设备、网络架构和安全策略的影响，并规划在未来12-18个月内进行试点部署。
- **投资者**：关注AI推理价值链从云端向边缘的迁移，监测能效指标和本地AI应用采纳率，以判断替代曲线的加速点。
💬 评论 (0)