广和通发布Fibocom AI Stack:以五层架构赋能千行百业 助力端侧AI落地

科技   2025-01-10 16:59   上海  


当前,AI已然成为推动各行业变革与创新的核心驱动力。在其飞速发展的过程中,端侧 AI 凭借隐私安全、实时响应以及对网络依赖度低等优势备受青睐,将助力更多IoT场景智能化。但智能终端的AI升级也面临诸多挑战,如芯片平台样性,适配工作量大周期长;技术路径多样,模型转换难成本高等。

作为全球领先的物联网无线通信模组解决方案提供商,广和通于近日发布了Fibocom AI Stack,打造端侧万物智能的MxN中间件。
广和通AI研究院院长刘子威表示,Fibocom AI Stack为客户提供了一站式端侧AI部署的能力,未来将广泛帮助智能零售、智能网联车、智能穿戴、机器人等场景快速AI升级。广和通将积极联合产业伙伴拓展AI创新应用,助推端侧AI商业落地。

五层架构:提供一站式高效部署方案


整体来看,Fibocom AI Stack可提供一整套集硬件、工具链、引擎、模型为一体的端侧AI解决方案,为千行百业的端侧智能赋能。
其架构由五个层级构成。具体而言,高性能模组是整个架构的硬件支撑,支持Android、Linux、Ubuntu等系统,涵盖多层级算力和高性能处理器,帮助终端客户实现跨芯片平台、跨操作系统的端侧高性能推理与部署。
完整AI工具链,能够将 TensorFlow、PyTorch、ONNX等多种机器学习和神经网络的模型进行压缩与转换,打造出适合端侧部署的最优模型,以适配不同智能终端的应用场景。
高效推理引擎,支持C++/Python/Java等多种编程语言接口,可满足跨平台的应用开发,显著降低开发者端侧AI开发的难度和复杂度。通过异构调度和硬件加速等策略,可最大化发挥AI模组性能,提升推理速度,降功耗。
AI 模型仓,汇聚了海量端侧 AI 模型及行业端侧模型,宛如一个巨大的 “模型宝库”,涵盖了各种类型的模型,满足不同业务场景的多样化需求,无论是语言处理、视觉识别还是多模态等需求,都能从中找到合适的模型资源。
支持与服务,提供样例与文档、培训与支持,多业务场景支撑。AI Stack可缩短终端开发周期,降低端侧AI开发难度,助力千行百业的业务场景拥抱端侧AI。

广泛应用:赋能千行百业IoT场景


在场景应用方面,广和通端侧AI基于计算机视觉、语音、多模态等能力,针对多样化业务需求,广泛应用于具身智能、智能座舱、智慧零售等领域。
例如,在具身智能领域,Fibocom AI Stack为机器人等设备赋予了强大的智能感知和交互能力。机器人可以通过搭载的视觉传感器和 AI 模型,实时感知周围环境,进行物体识别、空间定位和路径规划,从而更加灵活地执行各种任务。
对于割草机器人来说,Fibocom AI Stack的应用使其变得更加智能和高效。通过视觉传感器和 AI 算法,割草机器人可以自动识别草坪的边界、障碍物和不同区域的草长情况,从而规划出最优的割草路径,实现精准割草,避免重复劳动和遗漏区域。
在智能座舱领域,Fibocom AI Stack为驾驶者和乘客带来了更加丰富、智能的驾乘体验。通过360环视和倒车影像等功能,利用图像拼接和目标检测技术,驾驶者可以在车内清晰地看到车辆周围的全景图像,实时监测车辆周围的障碍物和行人,有效减少视野盲区,提高倒车和泊车的安全性。
在智能消费电子领域,Fibocom AI Stack为可穿戴设备、耳机、眼镜等产品注入了新的活力。例如,智能手表可以通过搭载的健康监测传感器和 AI 模型,实时监测用户的心率、血压、睡眠质量等健康数据等。

四大优势:助推端侧AI商业落地


不可否认,广和通在端侧AI领域拥有强大的核心技术优势,而这些能力正是其能够推出Fibocom AI Stack的关键所在。
首先,其拥有卓越的端侧软硬件整合能力。能进行多系统多平台嵌入式软硬件设计和开发,还在跨芯片AI算法模型适配及部署方面表现出色;凭借熟悉各大厂商AI芯片与相关开发工具,可实现硬件抽象层HAL高效协同应用硬件资源,为端侧AI提供全链条技术部署支持。
其次,还在于它的创新算法模型开发能力。广和通精通神经网络架构设计,能够构建精准AI模型;还能对模型进行高效、灵活微调,从而实现高推理性能;并且积极探索RAG、Agent、智能体等AI先进开发技术。
再者,在于高效的端侧AI推理加速能力。广和通掌握先进的量化、剪枝等压缩技术,实现端侧轻量化部署。同时,做到AI算子高效适配和移植,提升端侧AI准确性;通过图层融合优化,最少化计算冗余操作。
最后,在于领先的AI前沿技术研究能力。广和通拥有硕博科研团队,探索前沿端侧AI技术,专注端侧模型压缩、极限量化,同时专注端侧模型推理加速,推动具身智能与空间智能发展。
广和通Fibocom AI Stack基于端侧AI发展需求而生,以五层架构破局开发难题,广泛赋能多行业IoT场景。凭借四大核心优势,为端侧AI商业落地提速。面向未来,相信广和通将不断深化技术创新,让端侧AI释放更大潜能,推动千行百业智能化变革更进一步。
如需进一步沟通,可联系官方客服:18124790650(vx 同号)

C114通信网
中国知名通信行业网站
 最新文章