邬贺铨院士谈大模型落地的四大路径

科技   2025-01-07 19:01   陕西  

点击蓝字关注我们

来源 | 通信世界  
编辑 | 高  洁
责编 | 段少敏  
审核 | 李国庆

12月23日,在2025中国信通院深度观察报告会上,中国工程院院士邬贺铨讲道,端侧大模型+智能体将引发通信终端模式变革。


一是终端形态多样化。手机、PC、眼镜等可穿戴设备、传感器/工业模组、机器人、网联车等。


二是终端功能智能化。从智能终端到AI终端,从通信终端到智能体/具身智能,还可离线使用。

三是人机交互多模化。自然语言、触摸屏、手势、唇形、眼神等,从GUI(图形用户界面)到VUI(语音界面)并发展为Agent UI(智能体界面),APP存在感和独立性将被弱化,转而成为系统背后的服务工具。

四是内容供应个性化。获取信息的方式从浏览到对话,内容的产生从对外检索到用户生成(在终端内生成与云端协同生成),提问与获得的信息态转换(文生图与文生视频),从内容预制到内容定制,千人千面。

五是通信连接多元化。从点到点(含接力、流量分担与冗余并发)到P2MP/MP2P(包括多归属、多切片),智能网联车PC5/Uu接口分别实现V2V和V2N连接,以多归属/多切片实现多传感器与车联网多设备互联,AR视频会议将异地参会者视频组成MP2MP连接。

六是计费模式差异化。基于体验从流量计费到服务质量计费,计费单元从带宽到Token或算力,计费方式从包月、流量包到预订计时等。

邬贺铨提出了大模型应用落地的四大路径。

一是大模型可以Maas(模型即服务)模块形式将场景大模型及工具链嵌入云端,加入用户数据微调,从而降低用户使用大模型的门槛。

二是基于基础大模型训练行业大模型或场景大模型,通过瘦身成为端侧大模型,下沉到终端或边缘。

三是基于大模型的提问或应答闭环迭代,将知识形成感悟,得到轻量化的智能体小程序。

四是物理实体通过大模型上云+下沉+智能体获得具身智能。

邬贺铨介绍,端侧大模型+智能体也会对网络技术产生两大影响。


一方面是大上行与高突发。根据Speedtest数据,2024年10月,我国固宽百兆和千兆接入分别占94.8%和30.4%,固宽下行平均220Mbps,但上行仅44Mbps。采用专线接入可提高上行能力,但因平时无需高带宽而利用率低且成本高。采用弹性无损智算IP网可支持10GE/100GE用户接入,按流量时长计费。与此同时,2024年10月,我国5G用户占移动用户的55.6%,移动网下行平均140Mbps,但上行也仅23Mbps。对此,需要采用5G-A的大上行技术来适应。

另一方面是云边端协同,云与端间需要大带宽低时延高可靠传输。具体体现在模型参数及梯度(端侧训练的模型参数上传到云上,对云上大模型进行全局参数更新,再下发到端侧调整本地参数,反复迭代全局寻优);传输模型训练或推理的原始数据;传输在终端中生成的视频等。对此,可采用RDMA无损高吞吐广域网,辅以负载均衡精准流控,支持海量样本快速入算和存算分离拉远训练服务。

此外,邬贺铨提到,AI终端及其应用推动网络技术创新,也将带动软硬件产业及新型信息服务业的发展。他认为AI终端将成为人工智能技术落地应用的切入点,数字经济发展赋能的新增长点,以及传统产业数字化转型的着力点。

面向未来,邬贺铨表示,端侧大模型+智能体将为更多的开发者投身人工智能技术开发展现广阔的应用场景,带动起AI技术的众包时代,开拓产业的新生态。


推荐下载











数字产业创新研究中心2024人工智能&大数据创新应用案例集
【数字化案例】从繁琐到高效,从隔阂到协同,产业互联网平台全解析
【数字化思维】从TA们的视角看,何为明智的转型投资

推荐关注



交流投稿

「首席数字官」是锦囊专家旗下的新媒体平台,专注数字化转型的趋势洞察、前沿科技应用、模式创新、优秀案例、领军人物的采访报道。文章覆盖微博微信、腾讯、百度、今日头条、搜狐等20+媒体平台和国内外专家社群100+。

如果你是企业数字化探索者、观察者,对转型创新有独到的见解、夯实的案例,也欢迎投稿!投稿请联系《首席数字官》编辑部:
fuyuanyuan@jnexpert.com

【欢迎添加小锦好友(微信号:jn-xiaojin3),请备注公司部门职位,进中国软协CIO之家社群或数字化讨论群,与众多同行、专家共同讨论交流】

转载须知

1、欢迎转载「首席数字官」原创作品。
2、转载时,请在文章开头注明:文章转自「首席数字官」,ID:ChiefDigitalOfficer,作者XX。


首席数字官
首席数字官(Chief Digital Officer),让数字化转型的趋势洞察、前沿科技应用、模式创新、优秀案例、领军人物,变得触手可及。首席数字官是锦囊专家旗下的新媒体平台,汇聚万名平台专家智慧,成就CDO!
 最新文章