Arm推出全球首个Armv9边缘AI计算平台 助力物联网领域AI转型

我爱免费

作者：微信文章
沈建缘/文 随着边缘AI工作负载的复杂性日益增加，大模型推理需要更高效的边缘设备，如智能摄像头实时识别、工业设备预测性维护等等。与此同时，MTE、PAC等安全特性可能成为物联网设备的“标配”，尤其在工业控制、关键基础设施领域，推动行业向更高安全等级演进。

基于物联网领域对AI转型需求的不断增长。2月27日，Arm发布 Arm®v9 边缘人工智能 (AI) 计算平台。

该平台以全新的 Arm Cortex®-A320 CPU 和边缘 AI 加速器 Arm Ethos™-U85 NPU 为核心，可支持运行超 10 亿参数的端侧 AI 模型。随着边缘 AI 在 Arm 平台上持续集成，这一全新产品的加入使 Arm 现已能为物联网提供最为先进的 Armv9 Cortex 处理器系列，覆盖从极致性能到成本和能效受限的设备。

Arm 物联网事业部软件产品管理总监 Christophe Fava-Rivi表示：“当今的物联网 (IoT) 环境对边缘设备的需求更胜以往。智能摄像头需要在本地运行复杂的计算机视觉算法；工业传感器须处理复杂的机器学习 (ML) 模型以进行预测性维护；即使是简单的端点设备，也越来越离不开增强的安全性和虚拟化功能。这些不断变化的需求使得 Armv9 的先进功能不再只是锦上添花，而是新一代物联网创新的必备条件。”

Cortex-A320作为新型边缘 AI 计算平台的推出标志着边缘计算发展的重要里程碑，充分发挥了 Armv9 架构的优势，如针对 ML 性能的 SVE2。相较于前代产品 Cortex-A35，Cortex-A320 的 ML 性能提升了十倍，标量性能提升了 30%。

该平台能够支持基于智能体的 AI 应用上运行经过调优的大语言模型 (LLM) 和小语言模型 (SLM)，从而开辟全新类别的边缘应用场景。在未来的场景中，智能决策将更接近数据采集源头，这不仅能显著减少延迟，还能有效提升隐私保护水平。其采用的 Armv9.2 架构还为最小的 Cortex-A 设备带来了高级的安全功能，例如指针验证 (PAC)、分支目标识别 (BTI) 和内存标记扩展 (MTE)。这些功能至关重要，因为边缘设备通常在暴露的环境中运行并处理敏感数据。

目前，该平台已受到了包括亚马逊云科技 (AWS)、西门子、瑞萨电子、研华科技和 Eurotech 在内的多家合作伙伴的支持。
<div class="ql-legend-wrapper" data-url="https://jg-app.obs.cn-north-4.myhuaweicloud.com/prod/upload/0/jpg/3DFE65F159CF774883DB4ED9E73C7349.jpg"><div class="ql-legend-title">