手臂：AI无处不在的技术基础

是什么使Arm成为AI创新的基础？

使用Arm通用和无处不在的计算平台的公司迄今已售出2700亿块芯片，如今，Arm在所有技术接触点上实现了AI功能。这是AI领导者能够在Arm上以如此惊人的速度进行创新的关键原因。

为什么手臂对运行AI至关重要？

Arm是并且将是AI发生的一切的基础。简单地说，AI现在运行在Arm上，将来也会运行。

Arm如何满足各地对AI的需求？

为了满足对基于人工智能的技术和应用的永不满足的需求，需要在计算的每个角落都使用人工智能。

Arm在整个计算领域的角色是什么？

从使用无数处理器来训练大型语言模型（LLM）的大数据中心，到世界数字消费者每天使用的“边缘”人工智能（在实际设备上），这些都有所不同。

以下是Arm如何实现其使命，使AI无处不在。

Arm如何为高效AI计算做出贡献？

AI的高计算需求需要与高效计算的承诺相匹配。

• 不可持续的计算资源–先进的生成性人工智能推动了对空前数量的人工智能计算能力和资源的需求。一名荷兰研究员他建议，如果一年中谷歌的每一次搜索都使用人工智能，那么就需要相当于爱尔兰大小的国家所用电量。从长远来看，这是不可持续的，尤其是在我们地球上资源有限的情况下。
• 智能手机平行–Arm提供了计算性能和能效的独特组合，推动了智能手机革命，我们认为这也是AI革命的一部分。

Arm如何在数据中心改造AI？

超大规模的领导者正在接受定制的硅战略，为AI时代改造他们的数据中心。

• Grace Hopper超级芯片–软银正在用NVIDIA基于Arm的Grace Hopper超级芯片建造世界上第一个5G人工智能数据中心，这是一款突破性的人工智能加速CPU，专为大规模人工智能和高性能计算应用而设计。由72提供动力手臂Neoverse V2Grace Hopper核心在AI最苛刻的任务中实现了10倍的性能飞跃，同时显著提高了每瓦特的性能。
• 钴100–微软最近宣布了其首个为云构建的定制硅钴100处理器，它建立在手臂Neoverse CSS N2.
• 显著节约成本–手臂Neoverse-由AWS Graviton3提供动力AI推理节省50%的成本–使用经过训练的模型对新的真实世界数据进行预测的过程。
• 重要的是关注人工智能推理–由于数据中心大约85%的人工智能工作负载运行推理，从而为无数用例、行业和设备中的人工智能应用程序提供动力，因此公司有巨大的动力来降低相关的能源和成本。 

Arm如何在边缘启用AI？

除了数据中心和云之外，许多人工智能工作负载需要在实际设备上进行处理，以便更有效地分配人工智能。

• Edge AI正在发生–在实际设备（无论是智能手机、智能家居设备还是汽车）上处理人工智能工作负载已经成为现实，并将继续增长，特别是随着LLM变得更加高效，并且专门为特定任务、用例或设备构建。
• 更快的体验、更少的延迟、更好的隐私–在采集数据的设备上处理AI计算意味着更快、更安全的用户体验和更少的延迟，这是工业和汽车应用等安全关键用例的重要要求。
• 小型处理器的AI编码–开发人员正在编写更紧凑的AI模型，以在小型微处理器或更小的微控制器上运行，从而节省能源、时间和成本。例如，普卢梅莱该公司为在Cortex-A和基于Cortex-M的SoC上加速神经网络提供软件解决方案，在基于Arm的微控制器上运行超过1MB的AI代码，执行面部检测和识别。

AI如何在不同的技术市场中推进处理器技术？

AI从CPU开始，无论它是整体处理AI工作负载，还是由GPU或NPU等协处理器支持。

• 先进的人工智能能力–在过去十年中，Arm的CPU和GPU每两年就将其AI处理能力翻一番，这使得今天在Arm CPU上运行的第三方应用程序中的AI占70%。这转化为关键技术市场边缘的人工智能的重大发展。
• AI智能手机现已面世–高性能支持AI的智能手机现已上市，这些智能手机基于Arm的v9 CPU和GPU技术。这些包括新的MediaTek Dimensity 9300-powered vivo X100和X100 Pro智能手机以及谷歌Pixel 8，这是第一款为Gemini Nano设计的智能手机——谷歌的人工智能模型，用于边缘的一系列基于人工智能的任务。
• 为物联网运行机器学习工作负载–超过200亿基于Arm的片上系统（SoC）能够为各种物联网设备运行各种机器学习（ML）工作负载，从Cortex-M处理器到Ethos-U NPU再到Cortex-a CPU。
• 在汽车中驾驶人工智能–今天的汽车芯片支持基本的AI功能，如障碍物检测、3D视图和简单的传感器融合，这些都在Arm CPU上运行。基于人工智能的下一代汽车功能，如高级驾驶员辅助系统（ADAS）和自动驾驶功能，也正在基于Arm CPU构建。

Arm如何培养世界上最大的AI开发者社区并加速AI工作负载？

Arm持续的软件投资意味着我们正在创建全球最大的AI开发者社区。

• 对软件开发人员的承诺–对于开发人员来说，Arm旨在以最常见的方式在任何地方实现AI，以实现更简单、更快、更安全的编码。今天，超过1亿用户可以访问Arm NN软件开发包在Arm CPU和GPU上优化ML工作负载。
• 更复杂的AI工作负载，更快的上市时间–对于全球1500万开发基于Arm的设备的开发人员来说，这使他们能够运行复杂的AI和ML工作负载，并确保他们的应用程序更快地推向市场。
• 与行业领导者合作–Arm正在我们业界领先的生态系统中伙伴关系范围实现我们对开发人员的AI承诺。
• 开源支持–我们还在开发人员需要支持的所有地方，包括TensorFlow、PyTorch、Caffe 2、OpenVINO和TVM，通过开放源码框架和库，使基于Arm的硬件具有更高的ML功能，为开放源码社区创建AI创新基础。

最后的一些想法

技术创新的基础–人工智能正在为下一个技术创新时代奠定基础，为社会带来新的可能性时代。

但我们需要到处都有人工智能来实现这一点–这不仅意味着在云中、数据中心和超级计算机中启用人工智能，还意味着确保复杂的人工智能工作负载可以在更小、更受限制的边缘发生 技术和设备。

功率效率等于性能–为了发展边缘人工智能，能效需要与性能同等重要。

Arm正在实现这一点–我们提供了一个通用且无处不在的计算平台，使这些可能性在边缘和更远的地方得以实现。

• 体系结构和处理器–无论是我们的CPU、GPU、ISP还是NPU，Arm都为每一代添加了更多的AI性能和效率功能以及安全功能，同时为合作伙伴集成和开发自己的创新解决方案提供了无与伦比的灵活性。
• 软件、工具和生态系统–IP与开放软件和工具以及庞大的行业领先生态系统相结合，意味着全球数百万开发人员正在使用Arm计算平台作为其基于AI的创新的基础。

人工智能无处不在–从传感器和智能手机到工业级物联网、汽车和数据中心。