邬贺铨院士谈大模型落地的四大路径

科技   2024-12-27 17:26   广东  


邬贺铨提出了大模型应用落地的四大路径。
一是大模型可以Maas(模型即服务)模块形式将场景大模型及工具链嵌入云端,加入用户数据微调,从而降低用户使用大模型的门槛。
二是基于基础大模型训练行业大模型或场景大模型,通过瘦身成为端侧大模型,下沉到终端或边缘。
三是基于大模型的提问或应答闭环迭代,将知识形成感悟,得到轻量化的智能体小程序。
四是物理实体通过大模型上云+下沉+智能体获得具身智能。

来源:通信世界


12月23日,在2025中国信通院深度观察报告会上,中国工程院院士邬贺铨讲道,端侧大模型+智能体将引发通信终端模式变革。
一是终端形态多样化。手机、PC、眼镜等可穿戴设备、传感器/工业模组、机器人、网联车等。
二是终端功能智能化。从智能终端到AI终端,从通信终端到智能体/具身智能,还可离线使用。
三是人机交互多模化。自然语言、触摸屏、手势、唇形、眼神等,从GUI(图形用户界面)到VUI(语音界面)并发展为Agent UI(智能体界面),APP存在感和独立性将被弱化,转而成为系统背后的服务工具。
四是内容供应个性化。获取信息的方式从浏览到对话,内容的产生从对外检索到用户生成(在终端内生成与云端协同生成),提问与获得的信息态转换(文生图与文生视频),从内容预制到内容定制,千人千面。
五是通信连接多元化。从点到点(含接力、流量分担与冗余并发)到P2MP/MP2P(包括多归属、多切片),智能网联车PC5/Uu接口分别实现V2V和V2N连接,以多归属/多切片实现多传感器与车联网多设备互联,AR视频会议将异地参会者视频组成MP2MP连接。
六是计费模式差异化。基于体验从流量计费到服务质量计费,计费单元从带宽到Token或算力,计费方式从包月、流量包到预订计时等。
邬贺铨提出了大模型应用落地的四大路径。
一是大模型可以Maas(模型即服务)模块形式将场景大模型及工具链嵌入云端,加入用户数据微调,从而降低用户使用大模型的门槛。
二是基于基础大模型训练行业大模型或场景大模型,通过瘦身成为端侧大模型,下沉到终端或边缘。
三是基于大模型的提问或应答闭环迭代,将知识形成感悟,得到轻量化的智能体小程序。
四是物理实体通过大模型上云+下沉+智能体获得具身智能。
邬贺铨介绍,端侧大模型+智能体也会对网络技术产生两大影响。
一方面是大上行与高突发。根据Speedtest数据,2024年10月,我国固宽百兆和千兆接入分别占94.8%和30.4%,固宽下行平均220Mbps,但上行仅44Mbps。采用专线接入可提高上行能力,但因平时无需高带宽而利用率低且成本高。采用弹性无损智算IP网可支持10GE/100GE用户接入,按流量时长计费。与此同时,2024年10月,我国5G用户占移动用户的55.6%,移动网下行平均140Mbps,但上行也仅23Mbps。对此,需要采用5G-A的大上行技术来适应。
另一方面是云边端协同,云与端间需要大带宽低时延高可靠传输。具体体现在模型参数及梯度(端侧训练的模型参数上传到云上,对云上大模型进行全局参数更新,再下发到端侧调整本地参数,反复迭代全局寻优);传输模型训练或推理的原始数据;传输在终端中生成的视频等。对此,可采用RDMA无损高吞吐广域网,辅以负载均衡精准流控,支持海量样本快速入算和存算分离拉远训练服务。
此外,邬贺铨提到,AI终端及其应用推动网络技术创新,也将带动软硬件产业及新型信息服务业的发展。他认为AI终端将成为人工智能技术落地应用的切入点,数字经济发展赋能的新增长点,以及传统产业数字化转型的着力点。
面向未来,邬贺铨表示,端侧大模型+智能体将为更多的开发者投身人工智能技术开发展现广阔的应用场景,带动起AI技术的众包时代,开拓产业的新生态。






工业4.0俱乐部微信公众号版面已经免费对外开放,商务合作请联系俱乐部编辑胡先生:13923712961(微信同号)



【邀请函】关于开展“十五五规划”及“重大项目政策解析与谋划”系列辅导活动的通知


报名 | 振动噪声仿真技术研讨会(上海)


中国未来50年产业趋势洞察白皮书(附150页下载)

151项,工信部公示人工智能赋能新型工业化典型应用案例

黄奇帆演讲:2025,如何应对中美贸易战

四部委发布《中小企业数字化赋能专项行动方案(2025—2027年)》

工信部发布《中小企业专精特新发展评价指标体系》(附解读)

新质生产力8大产业链全景图

黄奇帆最新演讲:经济增长的最大增长极

2024年中国半导体投资深度分析与展望(附下载)

中国工程院发布中国工程科技2040发展战略研究

信息技术发展司:构建重点行业“一图四清单”,推动制造业数字化转型走深向实

EMF2024 | 周济院士:高端化、智能化、绿色化,指明装备制造业未来发展

比亚迪汽车核心供应商企业名单(附企业详情

美国发布《制造业美国战略计划2024》

杨学山:企业数智化转型形势与前景展望

2025中国AIoT产业全景图谱报告(附400页报告下载)

【求是刊文】中国工联院鲁春丛 | 加快发展工业互联网

工业和信息化部等十二部门发布《5G规模化应用“扬帆”行动升级方案》

中国工程院院士桂卫华:“大模型+工业软件”赋能新型工业化

【中国信通院】《2024年度制造业数字化转型典型案例集》发布(附下载)

【施耐德】5G+PLC 深度融合解决方案白皮书(附下载)

【重磅】2024新型工业控制蓝皮书发布(附下载)

【重磅】英特尔中国制造及能源行业AI实战手册(附下载)

中控褚健:迈向工业AI之路

工信部:研究出台制造业数字化转型行动方案和推动人工智能赋能新型工业化行动方案

不放弃燃油车|工信部郭守刚重庆讲话全文

金壮龙《求是》杂志撰文:进一步全面深化工业和信息化领域改革 为推进新型工业化注入强大动力

工信部:将出台中小企业数字化赋能专项行动方案(2025-2027年)

中国制造业企业突破 600 万家,但这一问题不解决,就很难过上 “好日子”

许小年:今年不是赚钱的年头,而是求生的年头

全国主机厂分布图

Gartner发布2024年中国技术成熟度曲线:LLM即将步入成熟期,复合式AI是中国企业最务实的选择

权威发布 | 3.6万字《新质生产力的理论贡献和实践价值》(附下载)

SpaceX内部讲义之系统工程(附下载)

2024人工智能(AI)在制造业的应用现状调研报告(附下载)

埃森哲:重塑中国企业数字化转型须实施五大行动

波士顿咨询 | 行则将至:中国高端制造在路上(附下载)

工信部等六部门部署开展2024年度智能工厂梯度培育行动

江小涓最新文章:数据、数据关系与数字时代的创新范式(1.7万字)

国标《GB/T 44109-2024 信息技术 大数据 数据治理实施指南 》发布(附下载)

783家!中国潜在独角兽企业榜单重磅发布

中国工程院院士钱锋:工业软件自主创新存在“三大壁垒”

《2024中国制造业精益数字化发展报告》发布(附下载)

Gartner发布2025年十大战略技术趋势:数字化转型的新机遇与挑战(附下载)

高盛:最惊艳的中国制造业分析

2024中国民营企业500强、制造业民营企业500强、服务业民营企业100强榜单发布(附解析)

周济院士:智能制造是推进新型工业化的主要技术路线

【深度】美国机床衰落了?某非标机床公司生产车间图片流出,里面的门道可不少

工信部:2025年将再遴选一批试点城市,预计累计支持全国4万多家中小企业数字化转型

我国8大新兴产业+9大未来产业发展分析

沈向洋: 关于大模型的10个思考

最新2024中国制造业企业500强榜单+分析

重磅 | 工信部印发《智能制造典型场景参考指引(2024年版)》

台积电前研发处长:中国被卡脖子,就是因为嫌弃这个行业不赚钱。如果政府不补助,没有人想要做设备

安永与浙江大学联合发布《专精特新上市公司创新与发展报告(2024年)》 (附下载)

中国工程院院士周济:智能制造将成为第四次工业革命的核心技术

工信部副部长辛国斌 | 未来中国制造要怎么走?

2024年民营企业数字化转型典型案例集(下载)

工信部:到2027年完成约200万套工业软件和80万台套工业操作系统更新换代任务

沙利文 | 展望中国-中国未来50年产业发展趋势白皮书(附下载)

华为轮值董事长徐直军在华为全联接大会2024主题演讲:拥抱全面智能化时代【全文】

清华大学 | 中国企业数字化转型研究报告(附下载)

赛迪报告:我国制造业数字化转型的成效、问题及对策研究

工信部发文加快布局建设制造业中试平台

2024中国人形机器人产业发展蓝皮书(附下载)

沈向洋院士2024年外滩大会演讲:大模型时代的机遇与挑战

中国信通院发布《新质生产力研究报告(2024年)》(附下载)

我国全面取消制造业领域外资准入限制




10000家企业会员

100000+个人会员

完整的工业4.0生态体系


提供从行业、企业评估到规划、设计、集成、建设及运营的全生命周期的技术人才投融、产业等服务。


工业4俱乐部
工业4.0俱乐部为国内第一家为工业4.0和智能制造为主题的聚合共同体。秉承集聚、分享、共创、发展的理念,联合产、学、研、政等打造工业4.0产业生态联盟,为区域及企业产业升级转型提供一站式服务。
 最新文章