随着AI的重点从训练转向推理,北京时间12月18日,美国移动通信网络运营商Verizon宣布与NVIDIA合作,通过移动边缘计算(MEC)为5G专用网络上的AI工作负载提供支持。对于此次合作,5G公众号(ID:angmobile)注意到是Verizon的5G MEC+NVIDIA的AI计算能力,Verizon将NVIDIA的全栈AI平台整合到其在5G专网上运行AI工作负载的最新解决方案中,以期为企业客户提供超低延迟和高带宽的实时AI应用服务。
新的AI驱动的5G专网平台堆栈是Verizon和NVIDIA合作开发的“即插即用”基础设施,可以处理计算密集型应用,包括生成式AI大型语言模型和视觉语言模型、视频流、广播管理、计算机视觉、AR/VR/XR、自主移动机器人/自动导引车、物联网等。5G公众号注意到Verizon称可帮助第三方开发人员快速创新,同时还能适应AI计算和各种AI和连接应用的未来发展。
此外,上述解决方案还支持多种用例或客户的多租户,是模块化的,可以根据需要扩展以提供针对各种应用的定制解决方案,并且可以通过便携式专网解决方案远程提供这些服务,或者在客户现场使用永久专网提供这些服务。
对于Verizon与NVIDIA而言,此次合作是一个重要的商业决策。5G公众号注意到Verizon借此机会可强化其5G专网服务以及AI服务,而NVIDIA则进一步扩展了其AI解决方案的应用范围。
不过,当大量敏感信息被传输并在边缘位置处理时,确保数据的安全性变得尤为重要。Verizon只是笼统强调了其平台上内置的安全特性,没有提到更多细节和技术保障措施。