【赛迪网讯】AI 的发展趋势正逐渐从云端走向边缘。在过去，AI 计算主要集中在云端，通过强大的服务器集群进行数据处理和模型训练。但来自海量传感器、摄像头的视觉、声音等数据都回传到云端是不现实的。数据量呈指数级增长，将所有数据传输到云端进行处理面临着诸多挑战，如网络带宽限制、延迟高、数据隐私和安全问题等。尤其是在对延时、隐私以及可靠性有严格要求的场景，边缘 AI 势在必行，它能够在靠近数据源的设备端进行数据处理和分析，有效解决了云端计算的瓶颈问题，实现了更快速、更智能的决策。

在这样的背景下，Arm 发布了基于 Armv9架构的边缘 AI 计算平台，这一举措无疑对市场有显著的推动意义。Armv9 边缘 AI 计算平台专为物联网应用优化，旨在满足日益增长的边缘计算需求，为物联网设备带来更强大的计算能力、更高的安全性和更好的软件灵活性。该平台的发布，不仅标志着 Arm 在 AI 领域的又一次重大突破，也为整个物联网行业的发展注入了新的活力。它将推动 AI 技术在边缘设备上的广泛应用，加速物联网的智能化进程，为人们带来更加智能、便捷的生活体验。

Armv9 边缘 AI 计算平台的构成与核心技术

Armv9 边缘 AI 计算平台的核心组件是 Cortex-A320 CPU 和 Ethos-U85 NPU，它们的协同工作为平台提供了强大的计算能力和高效的 AI 处理能力。

全新的 Cortex-A320 是 Arm 首个基于 Armv9 架构的超高能效 CPU，专为物联网应用量身定制，为功耗有限的设备引入了此前仅在尖端移动计算解决方案中使用的先进功能，使其在人工智能 (AI) 处理、安全性和整体能效方面均实现了显著提升。Ethos-U85 是领先的边缘 AI 加速器，对 Transformer 网络具有原生支持，这使得它在处理自然语言处理、图像识别等复杂的 AI 任务时表现出色。

Arm 技术的广泛应用，使得合作伙伴现在能够在从云端到边缘侧的各种计算场景中部署强大的 Armv9 技术。从授权该技术以构建 SoC 芯片的合作伙伴，到构建下一代设备的 ODM 和 OEM 厂商，该平台受到了包括亚马逊云科技 (AWS)、西门子、瑞萨电子、研华科技和 Eurotech 在内的多家业界领先合作伙伴的支持。

      Armv9 边缘 AI 计算平台的优势：性能飞跃

Armv9 边缘 AI 计算平台在性能方面实现了质的飞跃，展现出卓越的处理能力和运行效率，为物联网应用带来了前所未有的体验。相较于去年推出的基于 Cortex-M85 的平台，新的边缘 AI 计算平台的机器学习 (ML) 性能提高了八倍。

从具体产品性能来看， Cortex-A320 CPU相较于 Cortex-A35，其 ML 计算能力提升了高达10倍，这使得设备在处理复杂的机器学习任务时更加得心应手。在图像识别应用中，能够更快速、准确地识别出图像中的物体，无论是对海量图像的分类，还是对微小细节的检测，都能轻松应对，大大提高了识别的速度和精度。标量计算性能也相较于前代产品 Cortex-A35提升了 30%，使得设备在运行各类常规计算任务时更加高效，能够快速响应用户的操作指令，为用户提供流畅的使用体验。

Ethos-U85在处理自然语言处理、图像识别等复杂的 AI 任务方面，与上一代产品相比，Ethos-U85 性能提升了 4 倍，能效提高了 20%，MAC 单元数量从 128 个扩展到 2048 个；在 1GHz 时，达到每秒 4 万亿次操作（TOPS），能够满足对工厂自动化、商业应用或智能家居相机等高性能边缘 AI 应用日益增长的需求。它支持 Transformer 架构网络以及卷积神经网络（CNN），可以广泛应用于视觉和生成式 AI 任务，如视频理解、图像修复和对象检测等。其硬件原生支持稀疏性，提高了吞吐量，同时支持权重压缩和元素级算子链化，进一步提升了效率，能够在有限的资源下实现更高效的 AI 推理。

Armv9 边缘 AI 计算平台的优势：安全强化

在物联网时代，边缘设备面临着诸多安全威胁，数据泄露、恶意攻击等问题时有发生，因此，保障边缘设备的数据安全至关重要。Armv9 边缘 AI 计算平台在安全方面进行了全面强化，引入了一系列先进的安全特性，为设备提供了全方位的保护。

内存标记扩展（MTE）是一项重要的安全技术，它通过内存标记机制，为内存中的每个数据块添加标记信息。当程序访问内存时，系统会自动检查标记，确保数据的访问是合法的。如果黑客试图篡改内存数据，由于标记的存在，系统能够及时发现并阻止这种非法操作，从而有效防止了数据被恶意篡改和泄露，保护了设备和用户的数据安全。

指针认证（PAC）则主要用于保护程序的控制流安全。在程序运行过程中，指针用于指向内存中的数据和代码位置，黑客可能会通过篡改指针来控制程序的执行流程，从而实现恶意攻击。PAC 技术通过对指针进行加密和验证，确保指针的完整性和合法性，只有经过认证的指针才能被程序使用。这样一来，黑客就难以通过篡改指针来执行恶意代码，大大提高了系统的安全性。

分支目标识别 (BTI) 是一种防御机制，用于阻止跳转导向编程。BTI 的总体目标是通过将分支限制到最初的目标位置，在不同“分支”之间提供更强大的安全保障。这样一来，攻击者将很难操控程序的控制流。通过修改跳转指针，分支可能被攻击者用来执行任意代码，迫使已执行的线程跳转到代码中的其他位置（通常是目标 gadget）。BTI 在 Arm ISA 中添加了分支目标的概念，因此，转到非分支目标的指令将引发异常。如果攻击者设法破坏内存，导致分支重新定向至无效位置，执行将中止。

这些安全特性对于保护边缘设备的数据安全具有不可忽视的重要作用。在智能家居场景中，用户的家庭信息、个人隐私等都存储在边缘设备中，如果设备遭受攻击，这些敏感信息可能会被泄露，给用户带来极大的损失。而 Armv9 边缘 AI 计算平台的安全特性能够有效抵御各种攻击，保障设备的安全运行，让用户放心使用智能家居设备。在工业领域，生产数据和关键业务信息的安全同样至关重要，Armv9 边缘 AI 计算平台的安全防护机制可以确保工业系统的稳定运行，防止因安全问题导致的生产中断和经济损失。

Armv9 边缘 AI 计算平台的优势：软件生态助力

软件开发和部署的复杂性一直是边缘 AI 普及的主要障碍之一，而 Armv9 边缘 AI 计算平台背靠丰富的软件生态系统，尤其是此次 Arm 将 Arm Kleidi 扩展到了物联网，为新一代边缘 AI 应用释放 CPU 性能。Kleidi 在嵌入式和物联网用例中实现了显著的性能加速。例如，在 Llama.cpp 上运行微软的 Tiny Stories 小语言模型时，Cortex-A320 的性能提升了近 70%。

KleidiAI 是一套面向 AI 框架开发者的计算内核，已集成到常见的物联网 AI 框架中，如 Llama.cpp 和 ExecuTorch 或 LiteRT（通过 XNNPACK），这使得开发者可以无缝集成领先的 AI 框架，无需进行复杂的配置和调试工作。通过这种集成，KleidiAI 加速了 Meta Llama 3 和 Phi-3 等关键模型的性能，为开发者提供了更高效的开发体验。

借助庞大的 Armv9 生态系统，以及与 Linux 等功能丰富的操作系统和 Zephyr 等实时操作系统的兼容性，开发者拥有了前所未有的灵活性。他们可以充分利用现有的工具和知识，以及软件复用的优势，根据不同的应用需求选择合适的开发环境和工具，从而加快产品上市时间，并降低总体拥有成本。全球范围内有 2,000 多万活跃的 Arm 开发者，这为未来的技术创新提供了巨大潜力，他们可以基于 Armv9 边缘 AI 计算平台，开发出更多创新的应用，推动边缘 AI 技术的广泛应用和发展。

Armv9 边缘 AI 计算平台的发布，无疑是物联网发展历程中的一座重要里程碑。它以出色的架构特性和卓越的性能，为物联网设备带来了前所未有的智能体验，也为开发者提供了更广阔的创新空间。

展望未来，Armv9 边缘 AI 计算平台在物联网领域的发展前景十分广阔。随着物联网技术的不断普及和应用场景的日益丰富，对边缘计算能力和 AI 处理能力的需求将持续增长。Armv9 边缘 AI 计算平台有望在智能家居、工业自动化、智慧城市等多个领域得到更广泛的应用，推动物联网向更高层次的智能化发展。