​ICT趋势年会 | 信通院何宝宏:大模型“卷”向下半场,需要新打法

科技   2024-12-20 18:36   北京  

2024年大模型技术加速迭代、产品丰富多样、应用多点开花,助力千行百业加速智能化转型,掀起变革浪潮。“2025年大模型将角逐下半场,需要新打法。”12月18日,在2025年ICT行业趋势年会“算网与AI大模型应用论坛”上,中国信通院云计算与大数据研究所所长何宝宏讲道。
何宝宏在演讲中指出,2024年,全球训练大语言模型的效果普遍不及预期,可能已经撞上“数据墙”。如OpenAI产品迭代明显放缓;Anthroipc暂停Calude 3.5 Opus开发。另外,大模型产品迭代的速度也明显在放缓,这些情况表明,大模型竞赛的上半场已经进入“垃圾时间”。
对于大模型下半场的主赛道与新打法,何宝宏表示,大模型的下半场竞赛可以有多个可选的转变:从训练转为推理,从语言大模型转到多模态大模型,从人类互联网数据转为AI合成数据和私域数据,从闭源过渡到基于开源,从拼性能到拼性价比,从虚拟智能到实体智能等。
具体来看,行业要“卷”合成数据,也需要谨慎。过去30年来互联网上积累的数据,将在未来3~5年内被AI耗尽。但与此同时,Meta等的研究发现,即使只用了1%的合成数据,也将导致严重的模型崩溃。此外,现在互联网上超过50%的流量是机器人在搬运,接下来网上将充斥着人工智能生成的内容,人类生成的高质量数据很可能会被淹没在AI生成的垃圾堆里。
“卷”开源,领先的开源模型的能力已经达到闭源模型能力的80%,但成本却是闭源模型的1/20,那在大部分场景下会选择开源模型。从效果来看,集中式训练大模型已经导致对一般性智算需求的大降,加速大模型应用的私有化部署,行业大模型也将加速落地。
“卷”工程,大模型工程化过程中,长推理范式、可解释性与透明度、可靠性与安全性、压缩与轻量化、MLOps、记忆能力等方面仍是机会,仍有待突破。
“卷”性价比,一方面,根据相关测算,AI年产值超过6000亿美元,才够支付AI基础设施的费用,但现在还缺5000亿,且2024年5月开始的价格战目前暂无停止的迹象。另一方面,国内单位算力成本大致相当于英伟达算力的1.5倍,但同等的大语言模型服务价格经常只有它的20%到50%。接下来,行业会更关注商业化和应用落地,更注重性价比。
而在接下来大模型自身主攻方向转变的同时,算力等基础设施、智能体等应用也将迎来更为彻底的变革。
大模型下半场,智能体将接棒大模型。何宝宏表示,尽管少数巨头在继续探索通用大模型的未知边界,但更多数企业将聚焦探索各类LLM的好用(优化)和多用(场景)的路线,即Agent。未来几年,Agent泡沫将兴起,但Agent会有遗传自LLM的“故疾”(如不可解释性和幻觉)。另外,LLM的本质是压缩,Agent的本质是目标导向,二者本质的不同,导致未来可能会出现三个问题:难以觉察的终极目标不一致性;难以理解的机器陌生的思维和行为方式;AI系统缺失的自我修正机制。
大模型下半场,算力不能只追求高性能。算力发展也将有三大转变,一是发展边缘算力、混合算力、云端算力、推理算力、节能算力、低成本算力等多样化算力。二是从IDC到AIDC,之前IDC是技术创新的制高点,而现在AIDC不仅仅是技术创新,而是将重构整个生态,覆盖Agent、网络、芯片、风火水电等方方面面。三是从缺算到缺电,近年来数据中心耗电量持续上升,2030年AIDC耗电量将占全球总电量的20%,人工智能将激活全球核电市场。
大模型下半场,液冷从小众走向刚需。数据显示,2023年中国液冷服务器市场规模15.5亿美元,同比增长52.6%,未来五年年复合增长率将达到45.8%。未来AIDC几乎都要采用液冷解决方案,液冷将迎来爆发风口。
大模型下半场,信息基础设施要智力在线。随着科技变革,行业已经建成了庞大的通信基础设施,正在大规模建设算力基础设施,开始试点数据基础设施,接下来还要探索和大力发展智力基础设施。


END



推荐阅读





 AI新生态 新质向未来 | 2025 ICT行业趋势年会成功举办


昇思份额达30%!使能超50个主流大模型,成为AI框架新选择


2024华为开发者年度盛典成功举办,推动华为根技术生态繁荣发展

作者:朱文凤

责编/版式:盖贝贝

:王 涛 梅雅鑫

监制:刘启诚





【通信世界新媒体矩阵】

央视频 | 微软MSN | 视频号 | 微博 | 今日头条 | 百家号 | 网易号 | 搜狐 | 腾讯新闻

新浪看点 | 雪球号 | 抖音 | 快手 | 爱奇艺 | 知乎 | 哔哩哔哩 | 咪咕视频 | CSDN | 36氪



【新媒体团队】
监制|刘启诚
审校|王涛 梅雅鑫
编辑|王禹蓉 盖贝贝
视频剪辑|黄杨洋 卢瑞旭
运营|林嵩


点分享
点收藏
点在看
点点赞

通信世界
在路上,读懂世界!在这里,读懂通信!
 最新文章