边缘人工智能，是指在硬件设备上本地执行 AI 算法的一种技术。在这种技术中，算法使用的数据（如传感器数据或信号）主要来自于设备本身产生的数据，整个处理过程无需进行任何网络连接。边缘 AI (Edge AI) 依靠设备自身的硬件来处理与机器学习和深度学习相关的数据和过程，这有助于减少延迟以改善用户体验，减少不必要的带宽从而降低互联网服务的成本，并提高数据的安全性和隐私性。
图：ARM
相比于传统的云端 AI，边缘 AI 具有将计算和推断能力推向离数据源更接近的位置的优势，可以提供更快速、更安全、更隐私保护的数据处理和决策能力，使得人工智能能够更好地应用于各种边缘设备和应用场景中。因此，边缘 AI 在物联网、5G 等领域有着广泛的应用前景。
要加速推进边缘 AI 的发展，需要通过技术创新、硬件设备优化、软件框架开发、应用场景拓展、合作生态建设以及政策标准制定等多方面的努力。据悉，Arm 拥有超过 1500 万名基于 Arm 计算平台的全球开发者，与众多芯片制造商、设备厂商、解决方案提供商等建立了紧密的合作关系。这使得开发者户可以轻松获取到各种支持和服务，包括硬件供应、软件开发、技术支持等。这种全面的生态系统支持为合作伙伴扩展边缘 AI 部署提供了有力的保障。与此同时，Arm 凭借广泛的软件支持和工具简化了开发流程，从而轻松扩展边缘 AI 的部署。
图：基于 Arm 平台的 AI 软件生态系统
全新 Arm Ethos-U85 NPU 发布，性能提升四倍
近日，Arm 推出了 Arm® Ethos™-U85 神经网络处理器 (NPU)，这是一款专为边缘计算设计的高性能、低功耗且安全的神经网络处理器，将为边缘 AI 应用的发展提供强大的支持。
据 Arm 物联网事业部业务拓展副总裁马健介绍，Arm Ethos-U85 NPU 是 Arm 第三代面向边缘 AI 的 NPU 产品，这款处理器设计的主要目标是提供高效且安全的边缘 AI 计算，以满足物联网时代智能家居、智能零售、智能制造等场景对实时性和安全性日益增长的需求。
Ethos™-U85 NPU 具有高性能、低功耗和易于集成等特点。与上一代产品相比，Ethos-U85 性能提升四倍，能效提高 20%，同时，其 MAC 单元可从 128 个扩展到 2048 个（在 1GHz 时，算力实现 4 TOPs），能够为诸如工厂自动化和商用或智能家居摄像头等需要更高性能的应用提供有力的支持。在算子支持方面，Ethos-U85 增加了对Transformer 架构网络的支持，能够支持多种深度学习算法和模型，从而在各种边缘设备上实现快速且准确的推断。同时，其低功耗设计使得它在长时间运行的情况下也能保持稳定的性能，延长设备的使用寿命。
图：Arm Ethos-U85 提供卓越的神经网络加速功能
在集成方面，Ethos™-U85 NPU 提供了与前几代 Ethos-U 系列产品一致的工具链，因此合作伙伴能够利用现有的投资，达到无缝的开发者体验，这大大降低了开发难度和成本，加速了边缘 AI 应用的落地。
迄今，Arm Ethos NPU 系列产品已有逾 20 家授权许可合作伙伴，其中，Alif Semiconductor 和英飞凌是全新 Arm Ethos-U85 NPU 的早期采用者。
全新物联网参考设计平台,可加速语音、音频和视觉系统的部署
与全新 Ethos-U AI 加速器一同推出的还有全新物联网参考设计平台——Arm Corstone-320，该平台集成了 Arm 最高性能的Cortex-M CPU——Cortex-M85、Mali-C55 ISP 和全新的 Ethos-U85 NPU，为语音、音频和视觉等广泛的边缘 AI 应用提供所需的性能。例如，它支持实时图像分类和目标识别，或在智能音箱上启用具有自然语言翻译功能的语音助手。这种设计使得 Corstone-320 能够满足各种物联网设备和用例的算力需求。
此外，Corstone-320 还具备一系列优势。通过对内存带宽进行改善，从而为像素流提供全系统范围的互连带宽。在提高能效方面，Corstone-320 的设计有助于延长电池续航时间，同时提供了多种电源模式，如睡眠模式、待机模式和电源岛，以适应不同的使用场景。该平台还提供了丰富的安全功能，包括启动时和运行时的安全机制，确保了系统的安全性。
Corstone-320 的另一个亮点是其灵活性和可扩展性。它可以根据不同的细分市场、设备和用例进行定制，以满足各种特定的需求。同时，该平台提供了一系列软件支持，由此降低总开发成本和复杂性使得开发者能够更轻松地进行开发和部署。
总体而言，Arm Corstone-320 物联网参考设计平台通过集成高性能的硬件、丰富的软件支持、Arm 虚拟硬件、AI 模型库和开发工具等，降低了设计的复杂性，加速了产品上市进程，并使得各种智能物联网设备的部署变得更加简单和高效。
通过 Arm Ethos-U85、Corstone-320 等新品的不断推出，以及深化的生态系统资源，Arm 持续赋能边缘 AI 应用的部署与创新，助力企业和开发者聚焦打造差异化价值，为未来 AI 发展提供了坚实的基础和有力的技术保障。
扫描二维码
关注更多精彩
