首页
时事
民生
政务
教育
文化
科技
财富
体娱
健康
情感
更多
旅行
百科
职场
楼市
企业
乐活
学术
汽车
时尚
创业
美食
幽默
美体
文摘
如何解读 Yann LeCun推文建议学生不要在大模型方向工作?
科技
2024-09-07 00:01
北京
知乎
| 摘星狐狸
Yann LeCun的建议说得很直白,LLM已经在大厂手里了,作为一个学生能做的很有限。与其继续在已有的路径上卷,不如去探索更多可能性 -- “lift the limitations of LLMs”!但如果要解读的话,只看字面意思未免浅了些,那就让我们聊点深入的吧。
LeCun的观点
LeCun对大语言模型的“吐槽”由来已久。早在2022年他就指出,语言只承载了所有人类知识的一小部分,而大部分人类知识和所有动物知识都是非语言的,因此大语言模型无法达到人类水平的智能。他对大语言模型的能力始终持怀疑态度,认为它们在理解复杂世界方面存在局限性。
LeCun认为当前的人工智能研究应该放弃生成模型和强化学习方法等主流路线,基于自监督的方法更有希望实现通向通用人工智能(AGI)的突破,未来的人工智能发展方向不应仅仅依赖于大语言模型,而应探索更多元化的技术路径。这才是他一以贯之的观点。
而这种观点的背后,其实是对大模型自身固有限制的担忧。业界疯狂助推所谓“力大砖飞”的大模型,部分也是因为底层架构研究进展缓慢,实在等不及了。
当下的LLM有哪些限制?
当下的LLM大都基于Transformer架构,而Transformer架构的核心是自注意力机,它需要计算输入序列中每个元素对其他所有元素的注意力分数。随着序列长度的增加,这种计算的复杂度呈平方级增长,导致计算成本急剧上升。而由于自注意力层的内存需求与输入序列长度成正比,更长的序列也会导致内存消耗显著增加。这也是为什么LLM都有上下文长度的限制。
而从模型输出效果来看,尽管大语言模型能够生成连贯的文本,但它们可能无法完全理解生成单词的上下文语境或含义。这意味着它们生成的文本可能缺乏深度或与对话的上下文不完全关联。比如,大语言模型在其训练流程中没有关于事件发生先后顺序的概念,因此它们可能无法理解“时间”。而在空间上,大语言模型在处理描述同一事件的多个文本时,可能无法认识到它们之间的关联,从而无法形成一个一致、完整的世界观。
由于模型所做的一切就是猜测下一个token,它们不真正“知道自己知道什么”,这也导致了大语言模型的决策过程往往是黑箱的,缺乏可解释性,也就难以调试。
为了解决上面这些问题,人们在尝试各种方法。比如为了降低深度学习模型的能耗并保持或提升性能,人们发明了模型剪枝/压缩/蒸馏、轻量级架构、模型并行与数据并等方法,希望用更小的模型达到同样出色、甚至更出色的效果。
但在LeCun看来,这些都是在单一路径下的尝试,是治标不治本的。而对于计算机专业的学生来说,即便有足够的算力支持,想要做出突破LLM限制的工作,也不是一件容易的事。
LLM的跨学科应用
相较于想方设法突破大模型的种种限制,一个更有潜力的方向是寻找大模型的跨学科应用。例如由清华大学聂再清教授团队开发的多模态生物医药大模型BioMedGPT,就整合了基因、分子、细胞、蛋白、文献、专利、知识库等多源异构数据,有助于在药物靶点探索、先导化合物设计与优化、蛋白质设计等领域的应用。
对于学生来说,这可能更容易出成果。一方面,跨学科研究可以让学生更有效地利用现有资源,如专业数据库、实验设备和领域专家的知识,不至于为缺乏算力而挠破头。另一方面,在项目中学习如何将大模型技术应用于特定领域,也有助于掌握将技术转化为实际应用的能力,对于大多数学生的就业来说更有好处。更重要的是,跨领域的边缘地带往往也是创新最密集的地方,在这里工作能产生巨大的价值。
当然,要想用LLM做出跨学科的应用,工程能力是必须的。
世界模型
如果LLM不是AI的最终方向,那它又会是什么呢?Yann LeCun给出了他的答案,那就是“世界模型”。
LeCun提出的自主智能的系统架构
世界模型(world models)是用于描述智能系统如何捕捉和模拟现实世界的概念框,它对于智能体的认知功能、逻辑推理以及决策制定至关重要。具体而言,世界模型涵盖了对自然界法则、社会结构和人类思维过程的深入洞察,赋予了AI更精准地识别环境状态、响应外界变化的能力。通过构建精确的世界模型,AI系统可以在其中进行反复试错,找到现实中的最优决策。Yann LeCun认为,世界模型是通往强人工智能(AGI)的关键技术路径之一。
要理解世界模型,我们可以试着把它和两类技术进行对比。第一个是多模态大模型,当初Sora诞生时,很多人认为它就是world simulator,然而事实证明,尽管Sora能够生成视频,但它更多是一个视频工具,并不能很好地进行反事实推理(counterfactual reasoning),即在没有实际数据支持的情况下,准确回答“what if”类型的问题。Sora并没有准确地学到物理规律,这表明简单的数据堆砌可能并不是实现高级智能的正确途径。而世界模型的最大特点,就是能够进行反事实推理。
另一个场景是数字孪生。这种技术通常基于数据驱动的方法,创建一个数字副本来代表一个物理实体或过程。通过利用数字化建模技术、实时数据收集、仿真运行以及深入分析,数字孪生能够与原系统实现同步,并对其进行有效的监测和性能提升。这种方法允许用户在虚拟环境中模拟、预测和优化物理系统的运行,从而提高效率并降低风险。可是随着时间的推移,单纯的数据驱动的数字孪生已经不能满足复杂系统的需求了。比如智能建筑使用数字孪生来监控和控制建筑内的环境条件,如温度、湿度、能耗等。但是建筑物的实际使用情况可能因季节、天气或居住者的行为而变化,如果模型不能适应这些动态变化,其优化建议就不再适用。而这正好是世界模型的强项,通过让系统合成和解释大量的传感器数据,从而预测潜在的未来场景。
对于一个想要进入AI领域工作的人来说,LLM代表着当下,而世界模型可能是未来。就大模型而言,单纯的语言模型可能不如多模态更有潜力,其技术栈尚未收敛,多模态学习和跨模态对齐仍然是技术难点。而一旦在反事实推理方面取得突破,AI的决策能力将大幅提升,就可能带来真正的AGI。
http://mp.weixin.qq.com/s?__biz=MzIxNDgzNDg3NQ==&mid=2247546266&idx=1&sn=6a69fa4aa7b83187985d030b0026cef5
深度学习与NLP
专注深度学习、NLP相关技术、资讯,追求纯粹的技术,享受学习、分享的快乐。
最新文章
阿里史上最大规模开源发布,超GPT-4o 、Llama-3.1!
硕博招生将启!AI排名跻身前15,全球首所人工智能大学MBZUAI实力大增
谷歌女高管被裁员,3份兼职越干越开心!55岁正是闯的年纪!
李飞飞等14位斯坦福微软大牛等撰写《AGENT AI: 综述多模态交互的前沿展望》免费pdf分享
李飞飞等14位斯坦福微软大牛等撰写《AGENT AI: 综述多模态交互的前沿展望》免费pdf分享
痛惜!张祺乐副教授离世,年仅38岁……
下载量10w+!LLM经典《大型语言模型:语言理解和生成》pdf免费分享
OpenAI o1 self-play RL 技术路线推演
大模型千卡训练指南
逆天20w赞!吴恩达+Open AI打造《大模型通关指南》
[送5本]《架构思维:从程序员到CTO》揭秘程序员如何培养架构思维!
o1方法性能无上限!姚班马腾宇等数学证明:推理token够多,就能解决任意问题
对大模型演进方向的思考
52k star,北大内疯传《大学生CS自救指南》免费分享
被美国“制裁”的中国大学名单。。。
o1基石论文火爆传阅,Ilya仍是关键先生!核心项目清北校友闪光
技术上,如何复现 o1?
前英伟达科学家Anima Anandkumar斯坦福大学演讲,用实际案例揭示AI在这些领域的巨大潜力
10w网友点赞!清华大学《大模型研讨课》免费分享
36岁当上985高校院长!女教授称“最强大的背景”是......
吴恩达力荐LangChain经典课程-《LangChain大型语言模型(LLM)应用开发》免费分享
北大对齐团队独家解读:OpenAI o1开启「后训练」时代强化学习新范式
大模型千卡训练-经验指北
如何用1024张显卡训练一个模型
Github 13w Star,吴恩达强推《ChatGPT提示词工程》课程视频、配套代码及笔记分享
2024最新版,人大赵鑫老师《大语言模型》新书pdf分享
对大模型演进方向的思考!
李飞飞任CEO,空间智能公司World Labs亮相,全明星阵容曝光
张俊林-浅谈OpenAI o1的价值意义及RL 的Scaling Law
8月最新大模型新书-《自然语言处理:大模型理论与实践》西财赵宇教授新作
54K收藏神书-《Prompt 学习指南》中文版免费分享
李飞飞等14位斯坦福微软大牛等撰写《AGENT AI: 综述多模态交互的前沿展望》免费pdf分享
MOE vs MOT 让LLM更加有效
[送5本] 千问 | 面壁等团队强推《大型语言模型实战指南》新书分享
RWKV作者对OpenAI 发布 o1 系列模型的看法,很深刻
突发!OpenAI发布最强模型o1:博士物理92.8分,IOI金牌水平
下载量超5w!机器学习入门圣经《机器学习导论》最新第四版PDF免费分享
下载量10w+!LLM经典《大型语言模型:语言理解和生成》pdf免费分享
2024最新,李宏毅深度学习教程pdf免费分享!绝对值得反复阅读的神书!
谢尔盖布林:谷歌不敢用Transformer,作者剩一人了,现在我每天都在写代码
中科院提出大模型“基准泄露”排行榜,Qwen模型位居榜首
2024年新书-《掌握大语言模型》免费pdf分享
13万下载,亚马4.8高分,麻省开源《理解深度学习》分享!
麻省理工开源:《理解深度学习》,中文版来了!
下一代RAG:MemoRAG
华为三折叠手机19999元起!全展开10.2寸大屏3.6mm厚度,电池只留1.9mm
【包教包会】速通LLM《从头开始构建大型语言模型》免费pdf分享
Andrej Karpathy:自动驾驶已经实现 AGI,汽车其实就是机器人
Transformer已经彻底凉凉了!
2024最新版,人大赵鑫老师《大语言模型》新书pdf分享
分类
时事
民生
政务
教育
文化
科技
财富
体娱
健康
情感
旅行
百科
职场
楼市
企业
乐活
学术
汽车
时尚
创业
美食
幽默
美体
文摘
原创标签
时事
社会
财经
军事
教育
体育
科技
汽车
科学
房产
搞笑
综艺
明星
音乐
动漫
游戏
时尚
健康
旅游
美食
生活
摄影
宠物
职场
育儿
情感
小说
曲艺
文化
历史
三农
文学
娱乐
电影
视频
图片
新闻
宗教
电视剧
纪录片
广告创意
壁纸头像
心灵鸡汤
星座命理
教育培训
艺术文化
金融财经
健康医疗
美妆时尚
餐饮美食
母婴育儿
社会新闻
工业农业
时事政治
星座占卜
幽默笑话
独立短篇
连载作品
文化历史
科技互联网
发布位置
广东
北京
山东
江苏
河南
浙江
山西
福建
河北
上海
四川
陕西
湖南
安徽
湖北
内蒙古
江西
云南
广西
甘肃
辽宁
黑龙江
贵州
新疆
重庆
吉林
天津
海南
青海
宁夏
西藏
香港
澳门
台湾
美国
加拿大
澳大利亚
日本
新加坡
英国
西班牙
新西兰
韩国
泰国
法国
德国
意大利
缅甸
菲律宾
马来西亚
越南
荷兰
柬埔寨
俄罗斯
巴西
智利
卢森堡
芬兰
瑞典
比利时
瑞士
土耳其
斐济
挪威
朝鲜
尼日利亚
阿根廷
匈牙利
爱尔兰
印度
老挝
葡萄牙
乌克兰
印度尼西亚
哈萨克斯坦
塔吉克斯坦
希腊
南非
蒙古
奥地利
肯尼亚
加纳
丹麦
津巴布韦
埃及
坦桑尼亚
捷克
阿联酋
安哥拉