大模型行业的挑战—来自自动驾驶行业的经验

文摘   2024-09-29 08:29   北京  

今晚国发院 AI 碰撞局讨论一个棘手的问题:在一个技术以不可预测的方式迭代、每一代产品研发都需要投入巨资的市场,战略应该是什么?在这样的市场,不可预测性导致研发投入还没有收回时就不得不跟进下一轮研发,如此轮番几次,地主家也被折腾得没余粮了。说的就是自动驾驶市场,大模型市场可能也具备类似特征。

案例的特征在于环境既不可预测,又快速迭代。如果仅仅是不可预测,比如在技术标准之战中,不确定哪个技术能最终胜出,可以采取两头下注的方式对冲风险。而迭代速度快意味着这种策略行不通。同样,如果仅仅迭代速度快,比如摩尔定律下的芯片性能提升,也不会是一个特别大的威胁,因为产业在芯片厂商的路线图指引下,会形成较为一致的预期。值得指出的是,迭代的不仅是模块,而可能是架构。

两个特征共存带来巨大挑战。自动驾驶的技术路线在过去几年频繁变化,激光雷达变得不一定必要了,高精地图也不需要了,而大模型起来后更是出现了完全端到端的方案,打破原有的模块化架构。每次迭代都意味着更高的算法要求、更大的训练数据以及各高昂的算力投入。路线的变化之频繁,导致上一代研发的产品尚未投产便已经过时了,但未来到底是怎样的却未必清晰。现在追捧的端到端 AI 化,能笃定transformer不会出现新的替代架构?

嘉宾A借着分享智能驾驶行业的故事,暗示AI 产业面临相似困境。嘉宾B是BAT早期高管,经历过互联网泡沫。趁着他分享这段,我补充了红杉的一个观点。红杉认为,现在投给AI行业的钱,有点类似于VC互联网泡沫之前投的钱,很多沉淀到了互联网基础设施(光纤),后来成为了web2.0兴起的前提。我不认同这一点。正如前面铺垫的,变化太快太不确定了。5年前的光纤,5年后能继续用,投资没有归零。但今天练出来的丹,大概率5年后不再能用。嘉宾A进而指出,数据可能是这条光纤。

两位嘉宾和两位老师(包括我和晓梦)有一个共识。就是在当下大模型行业的情境下,高举高打从终局出发的创业者基本上不会有结果。嘉宾A问了大家一个问题:假设你知道迷宫出口的方位,同时手上有指南针,你会选择方案1)根据指南针显示的当下方位与出口方位的偏倚角度来行动;还是2)摸着墙壁走。正确答案是2)。在局部显示与方向一致,不代表你走在正确的路上,因为这条路上可能存在死胡同;反之,沿着墙壁一定能走出迷宫。这个结论当然有前提(迷宫的复杂程度),但意思是清楚的。嘉宾B则干净利落地指出一点,现在所有互联网公司没有一家的主业是其草创时期的样子,都是后面迭代出来的,有运气的成分。

嘉宾A分享的主要是智能驾驶,而嘉宾B所在的企业主推车路云协同。前者的顶流是特斯拉,而后者应该说是我国的政策选择。围绕着这两种路线大家都发言了。我的关键词是系统,劝诫大家不仅要看到组件,更要看到组件所嵌入的系统/架构。这种系统,包括技术的(比如高精地图在新的智驾系统里不再存在),产业的(比如产业治理较成熟的系统可持续性通常好一些)和政策的(比如大家都提到的AI主权化),都会对项目的成功概率有影响。

据嘉宾 A ,meta由于大模型加持,其广告精准程度大大提升,已弥补了因为 iOS 等关闭 cookie 授权所带来的负面影响。这部分解释了是什么支持 llama 的开放。

还有好多,先分享这些。国庆假期快乐!

侯宏文存
没有标签,只有思想
 最新文章