Arm发布新一代Neoverse高性能芯片IP产品

月22日消息，Arm宣布推出两款基于第三代Neoverse高性能芯片IP的Arm Neoverse计算子系统(CSS)，其中包括Arm Neoverse CSS N3和Arm Neoverse CSS V3。其中Arm Neoverse CSS N3相比上一代产品每瓦性能可提升20%；Neoverse CSS V3则是V系列芯片IP的首款Neoverse CSS产品，单芯片性能可提高50%。同期，Arm宣布，其全面设计生态项目(Arm Total Design)已吸引超过20家技术合作伙伴加入。(界面新闻)

I技术加持下，包括智能手机、PC、可穿戴设备以及数字电视等在内的终端设备，其“智能性”正在被重新定义。 面向全新计算需求，Arm日前推出了终端计算子系统 (CSS)，为旗舰系统级芯片(SoC) 提供基础计算要素，包括最新的 Armv9.2 CPU、Arm Immortalis GPU、基于3nm工艺生产就绪的 CPU和GPU 物理实现，以及最新的 CoreLink系统互连和系统内存管理单元 (SMMU)。此外，还有同步推出的 Arm Kleidi 软件库，有助于软件开发者无缝获得Arm CPU的最佳性能，包括面向AI工作负载的KleidiAI 和面向计算机视觉应用的 KleidiCV。

Arm创历史新高的CPU 、GPU 性能和效率提升

据介绍，Arm 终端 CSS 是迄今速度最快的 Arm 计算平台，提升了 30% 以上的计算和图形性能，以应对要求苛刻的实际用例中的安卓工作负载，同时也提高了 59% 的 AI 推理速度，适用于更广泛的 AI/机器学习 (ML) 和计算视觉工作负载。 据Arm 终端事业部产品管理副总裁 James McNiven介绍，Cortex-X925 作为Cortex-X系列的最新 CPU，实现了前所未有的性能飞跃，其IPC（每周期指令数）增幅创历史新高。而这是通过一系列创新的微架构改进和频率优化实现的，在 Geekbench 单线程测试中取得了 36% 的性能提升，显著超越前代产品。

Arm 终端事业部产品管理副总裁 James McNiven

AI 性能方面，Cortex-X925 取得了41%的性能提升，可显著提高大语言模型 (LLM) 等设备端生成式 AI 的响应能力。这主要得益于 Cortex-X925 的微架构演进，包括迄今为止最宽的解码器和矢量处理单元，使得 TOPS性能提升了 50%。

此外，Cortex-X925通过增强的可配置性和更大的私有 L2 缓存，有效提升了指令和数据的处理效率。同时，RTL和物理设计团队针对3nm工艺进行了紧密合作，进一步优化了 CPU 的频率和能效表现。 针对 AI 和手游用例，Arm Cortex-A725 CPU性能效率提高了 35%。这一改进也得益于更新后的 Arm Cortex-A520 CPU 和更新后的 DSU-120，使得采用最新 Armv9 CPU 集群的消费电子设备可提升能效和可扩展性。 CSS平台中还包括最新的Immortalis-G925 GPU，这是 Arm 目前性能最强、效率最高的 GPU，在各款领先的手游应用中实现了 37% 的性能提升，并在多个 AI 和 ML 网络上提升了 34% 的性能。在应用方面，Immortalis-G925 面向旗舰智能手机市场，而包括 Arm Mali-G725 和 Mali-G625 GPU 在内的全新高可扩展性 GPU 系列，面向从高端手机到智能手表、XR 、可穿戴设备等广泛的消费电子设备市场。

针对AI特性的软件优化

为了使开发者能以更高性能快速实现AI应用创新，Arm 推出了Kleidi软件，其中包括面向 AI 工作负载的 KleidiAI 和面向计算机视觉应用的 KleidiCV。 KleidiAI 是一套面向 AI 框架开发者的计算内核，使他们能够在各种设备上轻松获得 Arm CPU 上的最佳性能，并支持 Neon、SVE2 和 SME2 等关键 Arm 架构功能。KleidiAI 与 PyTorch、Tensorflow、MediaPipe 等热门 AI 框架集成，旨在加速 Meta Llama 3、Phi-3 等关键模型的性能，并且还可前后兼容，以确保 Arm 在引入更多技术时依然能适用未来市场的需求。

James McNiven认为，CPU作为核心计算引擎，在驱动未来网络方面发挥着不可替代的作用。Arm致力于将KleidiAI技术集成到多样化的框架中，包括通用框架TensorFlow、PyTorch等，它们能够支持各种设备上任意网络的运行，以及针对特定任务设计的点对点解决方案，例如MediaPipe和Llama 3。他强调，Kleidi不仅确保开发者能够充分利用Arm终端CSS的最新Armv9特性，如可伸缩矢量扩展(SVE)，也能确保在现有CPU核心上实现更佳性能，并为未来CPU创新，如可伸缩矩阵扩展(SME)等做好准备。 以Cortex-X925为例，Kleidi在运行最新版的Llama 3和Phi-3时，其速度比参考实现快2.9倍，且能在不到24小时内完成。此外，针对计算机视觉与AI技术日益紧密结合的趋势，Arm还推出了KleidiCV，并通过将其集成到广泛使用的OpenCV库中，实现显著的性能提升。据透露，Arm今年还将与OpenCV.ai合作，简化安卓开发者将OpenCV集成到项目的工作，并使他们能够从KleidiCV的性能改进中受益。 Am 终端 CSS还致力于提高安卓设备用户的性能体验。在Cortex-X925带来30%的性能提升基础上，针对包括Chrome在内的网页浏览器进行了改进，实现了23%的性能提升。这些改进也被中国手机厂商应用于浏览器中。同时，Arm继续与Google合作，推动了安卓动态性能框架的发展，新版本框架实现了高端内容每帧能耗降低25%、帧速率提高35%。

Arm注重系统级设计

谈到半导体工艺演进带来的技术挑战时，James McNiven指出，随着工艺节点的缩小，IP设计面临新挑战，尤其是在性能、功耗和面积(PPA)的优化上。Arm在设计新一代Cortex-X和Immortalis产品时，针对特定工艺节点进行优化，并且与代工厂合作伙伴保持了密切沟通。 此次推出的终端CSS，也是Arm首次在终端领域为CPU和GPU交付物理实现。对此，James McNiven解释，以往大多数IP的交付形式是RTL（寄存器传输级），类似于软件的形式。而从RTL到 芯片还需要很多 EDA 工具的辅助，才能把这套描述转变成实际的芯片布局。当然，所谓的物理实现，并不是指交付物理形态，是指Arm的设计完成了这些工具流，通过优化和工具产出物理交付，可以将整体的设计完整地呈现出来，包括晶体管的布局、线路部署等，从而进一步帮助合作伙伴节省开发时间。 在终端CSS的实现过程中，可以看出“系统级的分析和目标设定方法”贯穿始终。针对不同的用例或测试基准，Arm会确定整体性能目标，并将其分解到各个单一IP上。以游戏《原神》为例，Arm首先从系统层面进行深入分析，然后为GPU、图形性能、CPU等关键组件设定具体的性能提升目标，通过这种方式将游戏机制和计算能力推向极限。 James McNiven强调，每个单一IP的性能提升都是构建终端CSS整体性能的重要基石。通过将前沿的CPU和GPU技术、生产就绪的物理实现和持续的软件优化相结合，Arm 终端 CSS 加之 Kleidi 软件，将为未来 AI计算平台奠定基石。

两年，AI技术的热潮不仅惠及了千行百业，也颠覆了人们的生活。从云端百亿、千亿参数的大模型，到边缘、终端的“小模型”，像vivo的蓝心大模型BlueLM，可以在设备端提供写作、绘画等AIGC的能力，极大改善了用户的使用体验。这种潮流正在形成一种趋势，生成式AI为手机、电脑、智能穿戴、家电等终端带来了真正的智能进化，Arm则是这一切的基石。

“Arm为最大的计算生态系统提供了普适应用，以及对开发者友好的指令集，不断满足下一波的计算性能需求。”Arm终端事业部产品管理副总裁James McNiven表示，“这意味着在设备端和云端都会有更高的性能，同时在某些情况下会需要更高的能耗驱动AI技术，而能效正是Arm的DNA。Arm架构的强大实力可以为计算平台带来最高效的性能。”

Arm终端事业部产品管理副总裁James McNiven

前不久，Arm推出了Arm终端计算子系统（CSS），为旗舰系统级芯片提供基础计算要素，包括全新的Armv9.2 CPU、Arm Immortalis GPU、基于3纳米工艺生产就绪的CPU和GPU物理实现，以及最新的CoreLink系统互连和系统内存管理单元（SMMU）。此外，Arm还通过新推出的Arm Kleidi软件库帮助软件开发者无缝获得Arm CPU的最佳性能。通常，Arm的大多数IP会通过RTL的形式交付，要使RTL变为芯片还要借助EDA工具流，通过一系列的优化和工具完成工具流后提供物理实现。此次Arm除了提供RTL形式的IP交付，还会额外为合作伙伴提供CPU和GPU的物理实现选项。

过去几年中，专为性能和AI设计的Armv9架构在矢量加速、机器学习、安全性、稳定性等方面有着显著提升，在Armv9.2的基础上，Arm通过新一代Arm Cortex-X CPU和Immortalis GPU带来了更高的性能，并以效率为核心，融入了Arm终端CSS的全新能力，加速产品上市进程。Arm终端CSS可让IPC性能同比提高36%，AI推理速度提高59%，ArmImmortalis GPU图形性能提高37%。Arm深知，CPU、GPU、NPU等异构计算的重要性，不同加速器之间的协同可以满足各类应用场景，为客户带来更多的选择。例如，Immortalis GPU在持续推进智能手机中的光线追踪技术普及。在可扩展性方面，三种不同的 CPU 微架构让Arm的合作伙伴能够在包括笔记本电脑、智能手机、数字电视和可穿戴设备等一系列设备上提供对应的性能、效率，以及CPU和GPU解决方案。

Arm Cortex-X925实现了Cortex-X系列推出以来最高的同比性能提升，在3.8GHz的时钟速率和最大缓存大小的条件下，与2023年旗舰智能手机的4纳米SoC相比，其单线程性能大幅提高36%，AI性能相较去年的Cortex-XCPU在Token首次响应时间上提高41%，显著增强了LLM等在设备端的响应能力。微架构的演进带来了最宽的解码和矢量设计大幅提升，TOPS数增长50%。通过更好的可配置性和更大的私有L2缓存，可以保留进出过CPU的指令和数据。Arm Immortalis-G925 GPU在多个AI和ML网络上提升了34%的性能，并把光线追踪技术在面对复杂物体时的表现，在性能上提升了52%。

效率方面，Arm会选择不同的CPU微架构实现最大性能和最长使用天数，通过Immortalis和Arm Mali提供GPU可扩展性，实现性能和效率的灵活性。与Cortex-A720相比，Cortex-A725的能效提高了35%。Cortex-A520 CPU也随着工艺和物理实现的提升得到了改进。图形效率方面，在与去年的终端平台相同水平的游戏性能下，《堡垒之夜》等手游的功耗降低了30%。在为Cortex-X925带来的30%性能提升的基础上，Arm对网页浏览器也进行了改进，使其性能提高23%。

Arm继续携手Google，推动了安卓动态性能框架（Android Dynamic Performance Framework）的发展。在最新版本的框架中，高端内容的每帧能耗降低25%，帧速率提高35%。此外，Arm还调整了安卓工作负载在不同CPU核心之间的平衡方式，为YouTube节省了10%的功耗。针对Google的AV1视频编解码器，Arm进行了软件优化，使当下安卓设备的视频性能最多可提高40%。

除此之外，Arm的内存标记扩展（Memory Tagging Extension, MTE）可以帮助开发者在无需侵入式检测的情况下查找和修复代码中的错误，还可以在实际操作环境下，用来减少安全漏洞被利用。目前，vivo X100、vivo X100 Pro、Google Pixel 8等旗舰设备均允许用户启用MTE。

James McNiven称：“对于Arm终端CSS的完整解决方案来说，我们会针对不同用例，或是某些测试基准设定目标，将其分解到单个IP中。以游戏《原神》为例，我们先从系统层面进行分析，然后针对GPU、CPU等设定提升的目标，将各类游戏机制和计算能力推向极限，每个单一IP的性能提升都会为终端CSS的整体性能添砖加瓦。”

为了帮助开发者更好地发挥Arm终端CSS的性能优势，Arm还推出了Arm Kleidi，包括面向AI工作负载的KleidiAI和面向计算机视觉应用的KleidiCV。KleidiAI是一套面向AI框架开发者的计算内核，使他们能够在各种设备上轻松获得Arm CPU上的最佳性能，并支持Neon、SVE2和SME2等关键Arm架构功能，显著提升计算应用的性能。KleidiAI与PyTorch、Tensorflow、MediaPipe等热门AI框架集成，旨在加速Meta Llama 3、Phi-3等关键模型的性能，并且可以前后兼容，确保Arm在引入更多技术时依然能适用未来市场的需求。值得一提的是，Kleidi一词源于希腊语，意为“钥匙”，即为开发者释放更多性能的“钥匙”。

KleidiAI支持可伸缩矢量扩展（Scalable Vector Extensions, SVE）、可伸缩矩阵扩展（Scalable Matrix Extensions, SME）等能力，部署在Cortex-X925上时，Kleidi技术运行Llama 3和Phi-3LLM的速度要比参考实现快2.9倍，24小时内即可实现。KleidiCV则可以融入神经网络、传统计算机视觉算法等技术，确保社交媒体、摄像头等应用流畅运行。Arm会与OpenCV.ai合作，帮助安卓开发者更便捷地将OpenCV纳入他们的项目中，并从KleidiCV的改进中受益。

Arm在指令预取、分支预测、大缓存等前端访存能力的持续投入，使得应用程序的性能大幅提升，vivo就是很大的受益者，Arm微架构的升级让vivo手机的流畅度达到非常高的水准。Arm终端CSS将为vivo的生成式AI应用提供了强劲的处理能力，也为开发者带来了广阔的发挥空间。vivo首席芯片规划专家夏晓菲谈到：“Arm作为整个产业链的最上游，我们希望把vivo产品的痛点和需求，对工作负载的分析以及产品性能功耗瓶颈的分析，反馈给Arm，使我们整个产业链能够良性循环起来，从而使我们手机产品最终受益，给消费者带来越来越好的体验。”

Arm终端事业部产品管理副总裁James McNiven（左）&vivo首席芯片规划专家夏晓菲（右）

从AI手机到AI PC，Arm发展势头强劲。Windows on Arm（WoA)的生态愈发成熟，越来越多的Arm架构机型和Arm原生应用持续涌现，除了Microsoft Office、Dropbox、Zoom、Adobe套件等，还有百度、哔哩哔哩、Chrome浏览器、爱奇艺、搜狗、腾讯QQ音乐等带来了丰富的体验，Audacity、Blender和OBS Studio（用于流媒体）等开源工具的增多让开发者有了更大的热情，这些应用还整合了大量的开源库和开发工具，面向Windows的Arm Performance Libraries（Arm性能库）推动着WoA生态不断发展。

可以说，通过与合作伙伴的深度协作，Arm的产品和技术正在全球的每一个角落推进着计算能力挑战极限，让AI技术惠及每一个人。“作为计算的基石，Arm致力于通过新技术的推出，帮助我们的合作伙伴取得成功，我们希望能赋能合作伙伴打造出面向AI应用最卓越的设备、芯片组和SoC，为消费者的下一代AI体验夯实根基。”James McNiven说。

(8775559)