07
25
-
03
在人工智能 (AI) 技术加快速度进行发展的当下,AI 工作负载正从数据中心转向边缘设备做处理。随世界的互联和智能化水平的日益提升,从智慧城市到工业自动化,在边缘侧处理 AI 工作负载不仅能带来显著的优势,其必要性更是不可或缺。
OEM 厂商正面临着前所未有的压力,迫切地需要快速推出解决方案,以应对物联网应用不断攀升的计算需求,这些需求包括无人驾驶车辆在工厂环境中的精准导航、智能摄像头通过软件升级灵活调整功能,以及构建可提供更自然 AI 交互体验的人机界面。
为了快速创新和扩展,OEM 厂商需要在合适的位置灵活执行 AI 工作负载,以实现更强大的安全性和更高的软件灵活性,Armv9 技术正是能在大规模应用中满足这些需求的理想之选。Arm 此次发布的计算平台集成了全新的超高能效 Armv9 CPU——Cortex-A320 和支持 Transformer 算子网络的 Ethos-U85 NPU,打造出全球首个专为物联网优化的 Armv9 边缘 AI 计算平台。相较于去年推出的基于 Cortex-M85 的平台,新的边缘 AI 计算平台的机器学习 (ML) 性能提高了八倍。
在内存方面,Cortex-A320 取得了显著进步。随着大语言模型 (LLM) 的执行逐渐转向边缘 AI 设备,拥有更大和更灵活的内存系统能简化较大参数规模(例如大于 10 亿参数的 LLM)的执行。与 Cortex-M 系列相比,Cortex-A320 支持更大的可寻址内存空间,同时能更灵活地管理多层级内存访问延迟。它为 Ethos-U85 NPU 提供了更高的内存容量和带宽,从而极大地提升了大模型在 Ethos-U85 上的运行效率。借助 Cortex-A320 在内存方面的改进,新的 Armv9 边缘 AI 计算平台能够支持更复杂的计算任务,提升系统响应效率,进而更好地满足复杂且需要快速响应的边缘 AI 应用场景的需求。
新型边缘 AI 计算平台的推出标志着边缘计算发展的重要里程碑。Cortex-A320 为物联网带来了先进的 AI 功能和开发者优势,将 Armv9 架构的功能扩展到高能效设备,并提供全面的软件支持。Cortex-A320 充分的发挥了 Armv9 架构的优势,如针对 ML 性能的 SVE2。相较于前代产品 Cortex-A35,Cortex-A320 的 ML 性能提升了十倍,标量性能提升了 30%。
该平台所采用的 Armv9.2 架构还为最小的 Cortex-A 设备带来了高级的安全功能,例如指针验证 (PAC),增强了 TrustZone 内部的隔离性,支持更安全地运行软件容器;分支目标识别 (BTI),可有效缓解跳转和返回编程中的指针安全风险隐患;及内存标记扩展 (MTE),由于大部分软件漏洞仍与内存安全问题相关,MTE 通过内存标记机制,使黑客更难利用这些漏洞进行攻击,提升整体系统安全性。这些功能至关重要,因为边缘设备通常在暴露的环境中运行并处理敏感数据。
展望未来,显然 AI 的未来趋势将转向边缘,而全新 Arm 边缘 AI 计算平台将成为新一轮物联网创新的催化剂。Armv9 架构的特性、先进的 AI 功能和全面软件支持的结合,为 OEM 厂商和开发者创造了新的可能性。该平台能够支持基于智能体的 AI 应用上运行经过调优的大语言模型 (LLM) 和小语言模型 (SLM),从而开辟全新类别的边缘应用场景。在未来的场景中,智能决策将更接近数据采集源头,这不仅能显著减少延迟,还能有效提升隐私保护水平。
值得一提的是,这是行业首次迎来专为物联网应用优化的 Armv9 CPU,将超高能效与先进 AI 能力结合,实现了前所未有的突破。
2025 年 3 月 12 日,Arm 物联网事业部业务拓展副总裁马健女士将亲临 CFMS MemoryS 2025 峰会现场发表主题演讲。她将深入剖析 AI 计算负载从云端向边缘端迁移的最新趋势,全面探讨 AI 基础设施、终端硬件及半导体芯片的核心需求。这些需求涵盖计算、存储、内存及互连架构等多个关键领域,旨在实现 AI 性能与能效的极致优化。此外,马健女士还将重点介绍 Arm 如何凭借创新计算和存储解决方案(包括最新的 Cortex-A320 与 Ethos-U85 结合的边缘 AI 计算平台)应对这些挑战,并与ECO合作伙伴紧密合作,共同构建从云端到边缘的安全、高效、可扩展的 AI 计算平台。敬请期待!
大会报名通道现已开启,可通过峰会官网()或“闪存市场” APP 进行报名。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
全国人大代表、圣湘生物董事长戴立忠:建议根据社会养育成本变动情况,扩大个人所得税专项附加扣除范围
全网爆火的开路虎逼停宝马当街打人案后续来了:警方通报众人身份大开眼界!
北控加时险胜浙江:余嘉豪25+24 里勒46+8+8约克48+10+11+10三分
15分大逆转!深圳男篮险胜江苏,贺希宁30+9周鹏19+4,威姆斯全能
“再生材料” 首入政府工作报告 已组建百亿央企集团 25年循环经济产业产值将达5万亿
三星 Galaxy Z Flip7 小折叠手机渲染图再曝:弃用“文件夹”设计
OPPO 周意保透露 Find X8 Ultra 手机电池大于 5910mAh
苹果折叠屏iPhone最新预测:Touch ID回归,售价超1.6万元!
相关新闻
2023-08-13
2023-08-13
2023-08-13
2023-08-13
2023-08-13