- 亿玖动态
- 行业资讯
ARM又出招了,目标直击边缘AI 计算!
发布时间:2025-02-27
近期,ARM 在边缘 AI 计算赛道上重磅推出全球首个 Armv9 边缘 AI 计算平台,这一创新成果凭借超高能效与卓越 AI 性能,为物联网应用注入全新活力。
核心升级,性能飞跃
此次推出的平台搭载全新 Arm Cortex-A320 CPU 与 Ethos-U85 NPU。Cortex-A320 基于 Armv9.2 架构,支持 SVE2 指令集,对比前代 Cortex-A35,机器学习性能实现十倍增长,标量性能提升 30%。Ethos-U85 NPU 对 Transformer 算子网络提供有力支持,让平台机器学习性能相较去年基于 Cortex-M85 的平台提升八倍,轻松应对超 10 亿参数端侧 AI 模型运行需求,为物联网设备处理复杂 AI 任务提供坚实基础。
筑牢安全防线
鉴于边缘设备多处于开放环境且涉及敏感数据处理,ARM 在新平台中融入 Armv9.2 架构的高级安全特性。指针验证(PAC)、分支目标识别(BTI)以及内存标记扩展(MTE)等技术,全方位抵御黑客攻击,为边缘 AI 应用的数据安全与隐私保护提供有力保障,确保设备在复杂环境中稳定可靠运行。
软件优化,生态助力
ARM 将 Arm Kleidi 库拓展至物联网,为 AI 框架开发者打造便捷工具。Arm Kleidi 无需开发者额外操作,即可优化基于 Arm CPU 的 AI 和 ML 工作负载。其集成于 Llama.cpp、ExecuTorch、LiteRT 等常见物联网 AI 框架,加速 Meta Llama 3、Phi-3 等关键模型性能提升。以 Llama.cpp 运行微软 Tiny Stories 数据集为例,Cortex-A320 搭配 KleidiAI 性能提升高达 70%,大幅简化边缘 AI 开发流程,降低开发成本与时间,助力开发者快速推出创新应用。
该平台支持基于智能体的 AI 应用运行调优后的大语言模型(LLM)和小语言模型(SLM),开拓全新边缘应用场景。智能决策更靠近数据源头,有效降低延迟,提升隐私保护。在工业自动化、智能家居、智慧城市等众多领域,都能发挥巨大作用,推动行业向智能化、高效化、安全化迈进,为物联网产业发展带来无限可能。