Armv9 边缘AI计算平台打造边缘AI应用新未来
2025/3/20 15:42:42 标签:中国传动网
编者按:AI 的技术浪潮正让社会方方面面发生着深刻的变革。来自海量传感器、摄像头的视觉、声音等数据,对延时、隐私以及可靠性有严格要求的场景,边缘 AI 的发展势在必行。面对边缘侧形态各异的设备与丰富应用,大模型、智能体在边缘侧的落地需要具备更高性能和能效的边缘计算平台。
当前,AI 不断赋予边缘设备更加先进的智能属性,在工业自动化、智慧城市和智能家居等领域,OEM 厂商、软件开发者们正在积极寻求营建边缘 AI 推理生态系统,释放 AI 的巨大价值。
面对边缘侧形态各异的设备与丰富应用,大模型、智能体在边缘侧的落地需要具备更高性能和能效的边缘计算平台。
日前,Arm 发布了以全新基于 Armv9 架构的 Arm Cortex-A320 以及对 Transformer 网络具有原生支持的 Ethos-U85 AI 加速器为核心的边缘 AI 计算平台,支持运行超 10 亿参数的端侧 AI 模型,并将推动边缘 AI 领域在未来多年内的持续发展。
Arm 物联网事业部业务拓展副总裁马健指出,全新的边缘AI计算平台实现了 CPU 和 AI 加速器的深度配合。Cortex-A320 可以为 Ethos-U85 提供更高的内存容量与带宽,让大模型在 Ethos-U85 上的执行如虎添翼。任何开发者们不希望在 Ethos-U85 上运行的 AI 操作,可以回退到 Cortex-A320,利用其 Neon/SVE2 引擎更灵活有效地在 CPU 上执行。这使智能物联网与消费类电子生态系统能够在正确的时间,并在合适的地方运行最适合的工作负载。
全新Cortex-A320:首个基于 Armv9 架构的超高能效 CPU
Arm Cortex-A320 CPU 的推出具有重要的里程碑意义。
作为首个基于 Armv9 架构的超高能效 CPU,在 ML 性能方面,Cortex-A320 相较于前代Cortex-A35 提升了高达 10 倍的 ML 计算能力。此外,它的能效比较 Cortex-A520提升了 50%。在标量计算性能方面,Cortex-A320 的性能比前代 Cortex-A35 提高了 30%,带来了更强的通用计算能力。
马健表示,Cortex-A320 充分利用了 Armv9 增强的安全性和 AI 计算特性,这些特性已经在其他市场得到广泛应用,而 Arm 如今将其引入物联网领域。
安全性方面,Secure EL2增强了TrustZone内部的隔离性,支持更安全地运行软件容器;指针验证/分支目标识别(PACBTI)可有效缓解跳转和返回编程中的指针安全隐患;内存标记扩展(MTE)则通过内存标记机制,使黑客更难利用漏洞进行攻击,提高整体系统安全性。
计算性能方面,增强的Neon和可伸缩向量扩展(SVE2)技术,可提供更高效的ML计算能力;支持如BFloat16等新数据类型,提高AI计算的精度和能效;新增的矩阵乘法指令优化了AI和ML计算性能,加速神经网络推理和训练任务。
跨越边缘 AI 软件开发和部署复杂性障碍
边缘 AI 普及面临的最主要障碍之一是软件开发和部署的复杂性,这正是 Armv9 边缘 AI 计算平台软件生态系统发挥优势的关键所在。
2024年,Arm 推出了 Kleidi 软件库,并将其引入了智能手机和服务器市场,它包含优化 AI 负载在 Arm CPU 上执行的 KleidiAI 和加速机器视觉的 KleidiCV。如今,Arm 将 Kleidi 也扩展到了物联网领域。
KleidiAI 是一套专为 AI 框架开发者设计的计算内核,让开发者可以无缝地在 Arm CPU 上获取最佳性能,适用于各类设备。它支持如 Neon 和 SVE2 等 Armv9 架构的关键特性,大幅提升了 AI 的计算效率。此外,KleidiAI 已集成到常见的物联网 AI 框架中,如 Llama.cpp 和 ExecuTorch 或 LiteRT(通过 XNNPACK),加速了 Meta Llama 3 和 Phi-3 等关键模型的性能。例如,在 Llama.cpp 上运行微软的 Tiny Stories 数据集时,KleidiAI 为新的 Cortex-A320 带来了高达 70% 的性能提升。
写在最后
Arm全新的边缘 AI 计算平台代表了 Arm 为未来边缘计算和 AI 处理提出的新范式,该平台对物联网生态系统所能够带来的影响值得期待。相信全新 Arm 边缘 AI 计算平台将成为新一轮物联网创新的催化剂。Armv9 架构的特性、先进的 AI 功能和全面软件支持的结合,将为 OEM 厂商和开发者创造新的可能性。
供稿:电子技术应用
本文链接:http://www.cmcia.cn/content.aspx?url=rew&id=6012
相关新闻
- 2025-04-29意法半导体推出内置边缘AI的超低功耗工业级加速度计
- 2025-04-29AI医疗应用加速 清华人工智能医院揭牌
- 2025-04-232025年全球GenAI手机出货量有望突破4亿部
- 2025-04-23从“数字大圣”到“翻译神器” 科大讯飞用自主创新谱写AI新篇章
- 2025-04-17中科曙光发起行业AI智能体开放生态联盟在京成立
- 2025-04-15宜人智科“智语大模型”正式通过备案 开启AI科技新征程
- 2025-03-31蚂蚁集团使用国产芯片训练AI取得突破

成员中心
- 上海会通自动化科技发展有限公
- 中达电通股份有限公司
- 长春禹衡光学有限公司
- 睿工业
- 广东美的智能科技有限公司
- 高创传动科技开发(深圳)有限
- 南京埃斯顿自动化股份有限公司
- 哈尔滨工业大学
- 深圳市机械行业协会
- 广东省自动化学会
- 广东省机械工程学会
- 华南智能机器人创新研究院
- 深圳市机器人协会
- 富士康科技集团
- 深圳众为兴技术股份有限公司
- 南京诚达运动控制系统有限公司
- 常州精纳电机有限公司
- 杭州之山智控技术有限公司
- 杭州中达电机有限公司
- 杭州日鼎控制技术有限公司
- 杭州米格电机有限公司
- 上海新时达电气股份有限公司
- 上海登奇机电技术有限公司
- 上海三竹机电设备有限公司
- 深圳市艾而特工业自动化设备有
- 深圳市亿维自动化技术有限公司
- 湖南科力尔电机股份有限公司
- 深圳市四方电气技术有限公司
- 武汉迈信电气技术有限公司
- 广东省珠峰电气股份有限公司
- 清能德创电气技术(北京)有限公
- 毕孚自动化设备贸易(上海)有
- 富士电机(中国)有限公司
- 松下电器机电(上海)有限公司
- 路斯特运动控制技术(上海)有
- 西门子(中国)有限公司
- ABB(中国)有限公司
- 施耐德电气(中国)投资有限公
- 丹佛斯(中国)投资有限公司
- 三菱电机自动化(上海)有限公
- 安川電機(中国)有限公司
- 欧姆龙自动化(中国)有限公司
- 山洋电气(上海)贸易有限公司
- 柯马(上海)工程有限公司
- 康耐视
- 埃莫运动控制技术(上海)有限
- 上海安浦鸣志自动化设备有限公
- 诺德(中国)传动设备有限公司
- 利莱森玛电机科技(福州)有限
- 易格斯(上海)拖链系统有限公
- ACS Motion Control(弘柏商贸(
- 苏州钧和伺服科技有限公司
- 北京研华兴业电子科技有限公司
- 台安科技(无锡)有限公司
- 海顿直线电机(常州)有限公司
- 杭州摩恩电机有限公司
- 梅勒电气(武汉)有限公司
- 亚德诺半导体技术有限公司
- 上海挚驱电气有限公司
- 上海鸿康电器有限公司
- 上海开通数控有限公司
- 上海翡叶动力科技有限公司
- 上海维宏电子科技股份有限公司
- 上海弈猫科技有限公司
- 和椿自动化(上海)有限公司
- 光洋电子(无锡)有限公司
- 图尔克(天津)传感器有限公司
- 堡盟电子(上海)有限公司
- 广东西克智能科技有限公司
- 约翰内斯·海德汉博士(中国)
- 宜科(天津)电子有限公司
- 美国邦纳工程国际有限公司
- 库伯勒(北京)自动化设备贸易
- 奥托尼克斯电子(嘉兴)有限公
- 皮尔磁工业自动化(上海)有限
- 易盼软件(上海)有限公司
- 深圳市凯德电线电缆有限公司
- 恒科鑫(深圳)智能科技有限公
- 深圳市英威腾电气股份有限公司
- 深圳威科达科技有限公司
- 深圳市微秒控制技术有限公司
- 深圳易能电气技术股份有限公司
- 深圳市正运动技术有限公司
- 深圳市合信自动化技术有限公司
- 深圳市吉恒达科技有限公司
- 深圳锐特机电有限公司
- 深圳市顾美科技有限公司
- 深圳安纳赫科技有限公司
- 深圳市金宝佳电气有限公司
- 深圳市泰格运控科技有限公司
- 深圳市麦格米特驱动技术有限公
- 深圳市汇川技术股份有限公司
- 深圳市库马克新技术股份有限公
- 深圳市蓝海华腾技术股份有限公
- 深圳市正弦电气股份有限公司
- 深圳市艾威图技术有限公司
- 无锡信捷电气股份有限公司
- 台州市格特电机有限公司
- 天津龙创恒盛实业有限公司
- 武汉华中数控股份有限公司
- 四川零点自动化系统有限公司
- 庸博(厦门)电气技术有限公司
- 北京凯恩帝数控技术有限责任公
- 北京配天技术有限公司
- 欧瑞传动电气股份有限公司
- 航天科技集团公司第九研究院
- 西安微电机研究所
- 兰州电机股份有限公司
- 太仓摩力伺服技术有限公司
- 泰志达(苏州)自控科技有限公
- 无锡创正科技有限公司
- 宁波菲仕电机技术有限公司
- 杭州中科赛思伺服电机有限公司
- 世协电机股份有限公司
- 太仓摩讯伺服电机有限公司
- 浙江禾川科技股份有限公司
- 腾禾精密电机(昆山)有限公司
- 杭州纳智电机有限公司
- 杭州德力西集团有限公司
- 嘉兴德欧电气技术有限公司
- 卧龙电气集团股份有限公司
- 宁波海天驱动有限公司
- 德恩科电机(太仓)有限公司
- 常州展帆电机科技有限公司
- 固高科技(深圳)有限公司
- 广东科动电气技术有限公司
- 深圳市百盛传动有限公司
- 广州赛孚德电气有限公司
- 广州金升阳科技有限公司
- 广东伊莱斯电机有限公司
- 珠海市台金科技有限公司
- 东莞市卓蓝自动化设备有限公司
- 东莞新友智能科技有限公司
- 成都思迪机电技术研究所
- 深圳市英威腾智能控制有限公司
- 深圳锦凌电子股份有限公司
- 深圳市雷赛智能控制股份有限公
- 深圳市雷赛控制技术有限公司
- 横川机器人(深圳)有限公司
- 武汉久同智能科技有限公司
- 深圳市默贝克驱动技术有限公司
- 深圳众城卓越科技有限公司
- 泉州市桑川电气设备有限公司
- 江苏本川智能电路科技股份有限
- 台州市金维达电机有限公司
- 深圳市多维精密机电有限公司
- 上海尚通电子有限公司
- 配天机器人技术有限公司
- 瑞普安华高(无锡)电子科技有
- 深圳市青蓝自动化科技有限公司
- 广东科伺智能股份科技有限公司
- 东莞市成佳电线电缆有限公司
- 深圳市朗宇芯科技有限公司
- 深圳软赢科技有限公司
- 常州市领华科技自动化有限公司
- 杭州众川电机有限公司
- 江苏智马科技有限公司
- 海禾动力科技(天津)有限公司
- 杭州赛亚传动设备有限公司
- 广州富烨自动化科技有限公司
- 日立产机系统(中国)有限公司
- 魏德米勒电联接(上海)有限公
- 东莞市安扬实业有限公司
- CC-Link协会
- 北京精准博达科技有限公司
- 深圳市山龙智控有限公司
- 苏州伟创电气设备技术有限公司
- 上海相石智能科技有限公司
- 上海米菱电子有限公司
- 深圳市智创电机有限公司
- 深圳市杰美康机电有限公司
- 东莞市亚当电子科技有限公司
- 武汉正源高理光学有限公司
- 珠海凯邦电机制造有限公司
- 上海精浦机电有限公司
- 江苏略盛电子科技有限公司
- 深圳市研控自动化科技有限公司
- 上海微泓自动化设备有限公司
- 宁波中大力德智能传动股份有限
- 成都超德创机电设备有限公司
- 深圳市合发齿轮机械有限公司
- 温州汉桥科技有限公司
- 浙江工商职业技术学院智能制造
- 广东派莱特智能系统有限公司
- 上海英威腾工业技术有限公司
- 宁波中控微电子有限公司
- 普爱纳米位移技术(上海)有限
- 赣州诚正电机有限公司
- 三木普利(天津)有限公司上海
- 无锡新华光精机科技有限公司
- 广东宏博电子机械有限公司
- 纽泰克斯电线(潍坊)有限公司
- 杭州微光电子股份有限公司
- 北京和利时电机技术有限公司
- 广东七科电机科技有限公司
- 艾罗德克运动控制技术(上海)
- 大连普传科技股份有限公司
- 托菲传感技术(上海)股份有限
- 杭州中科伺尔沃电机技术有限公
- 苏州轻工电机厂有限公司
- 国讯芯微(苏州)科技有限公司
- 锋桦传动设备(上海)有限公司
- 科比传动技术(上海)有限公司
- 泰科电子(上海)有限公司
- 广东速美达自动化股份有限公司
- 安徽谨铭连接系统有限公司
- 沈机(上海)智能系统研发设计
- 宁波谷雷姆电子有限公司
- 深圳市人通智能科技有限公司
- 伦茨(上海)传动系统有限公司
- 连云港杰瑞电子有限公司
- 欧德神思软件系统(北京)有限
- 河源职业技术学院
- 凌华科技(中国)有限公司
- 浙江锐鹰传感技术有限公司
- 厦门唯恩电气有限公司
- 深圳市高川自动化技术有限公司
- 北一半导体科技(广东)有限公
- 深圳市步科电气有限公司
- 东莞市凯福电子科技有限公司
- 杭州海拓电子有限公司
- 乐星电气(无锡)有限公司
- 上海奥深精浦科技有限公司
- 崧智智能科技有限公司
- 珠海运控电机有限公司
- 常州拓自达恰依纳电线有限公司
- 浙江省诸暨市精益机电制造有限
- 深圳市多贺电气有限公司
- 上海赢双电机科技股份有限公司
- 日冲商业(昆山)有限公司
- 深圳市卓航自动化设备有限公司
- 苏州市凌臣采集计算机有限公司
- 南京芯驰半导体科技有限公司
- 福建睿能科技股份有限公司
- 深圳市如本科技有限公司
- 常州市常华电机股份有限公司
- 宁波众诺电子科技有限公司
- 联诚科技集团股份有限公司
- 山东中科伺易智能技术有限公司
- 广东奥普特科技股份有限公司
- 上海艾研机电控制系统有限公司
- 长广溪智能制造(无锡)有限公司
- 句容市百欧电子有限公司
- 深圳市康士达科技有限公司
- 深圳舜昌自动化控制技术有限公
- 昕芙旎雅商贸(上海)有限公司
- 北京科迪通达科技有限公司
- 成都中天自动化控制技术有限公
- 深圳市恒昱控制技术有限公司
- 众程技术(常州)有限公司
- 深圳市好上好信息科技股份有限
- 常州洛源智能科技有限公司
- 昆山艾尼维尔电子有限公司
- 深圳市迪维迅机电技术有限公司
- 尼得科控制技术公司
- 传周半导体科技(上海)有限公
- 纳博特南京科技有限公司
- 苏州海特自动化设备有限公司
- 深圳市华成工业控制股份有限公
- 宁波招宝磁业有限公司
- 南京菲尼克斯电气有限公司
- 长裕电缆科技(上海)有限公司
- 台州鑫宇海智能科技股份有限公
- 宁波银禧机械科技有限公司
- 江苏睿芯源科技有限公司
- 威图电子机械技术(上海)有限公
- 玛格电子技术(武汉)有限公司
- 福尔哈贝传动技术(太仓)有限公
- 武汉华大新型电机科技股份有限
- 永宏电机股份有限公司
- 浙江顶峰技术服务有限公司
- 上海先楫半导体科技有限公司
- 苏州阿普奇物联网科技有限公司
- 德缆(上海)电线电缆有限公司
- 广东英瑞沃电气科技有限公司
- 南京实点电子科技有限公司
- 广州丰盈机电科技有限公司
- 深圳市百亨电子有限公司
- 苏州德胜亨电缆科技有限公司
- 深圳三铭电气有限公司
- 嘉兴松州工业科技有限公司
- 苏州途亿通科技有限公司
- 上海数恩电气科技有限公司
- 昆山深裕泽电子有限公司
- 广东百能堡科技有限公司
- 深圳市嘉扬科技有限公司
- 宁波高胜电子有限公司
- 台州百格拉机电有限公司
- 上海弓望电子科技有限公司