“大模型是新一代操作系统,会带来新的生态。今天所有做软件的公司,尤其是在美国做To B的软件公司,是最早行动起来用AI重写软件的,这是我在去年年初看到的。今年的美国公司,都在用大模型重新定义自己的软件。”张宏江阐述。
从2017年开始出现Transformer以后,这一支上有一系列的模型。模型都很好,但都是专用模型和小模型,大部分是谷歌做的,但OpenAI,从GPT-1开始,,很快找到了突破口。大模型有三大特点,第一规模大,第二有涌现,第三有通用。
今天讲大模型,它的核心是scaling law(尺度定律),当llya Sutskever(OpenAI联合创始人、首席科学家伊尔亚·苏茨克维)比别人看得远的就是scaling law。
scaling law的另外一点,当Cluster变得如此之大,大家没法handle(处理)的时候,大家自然会找另外一个解决方案,就是把多少算力放到边缘计算上。我们看到今后一定是云、边、端连在一起的智能架构。
大模型是新一代操作系统,会带来新的生态。今天所有做软件的公司,尤其是在美国做To B的软件公司,是最早行动起来用AI去重写软件,这是我在去年年初的观察。今年我们看美国公司,无论是成功还是不成功,都在大量投钱,用大模型重新定义自己的软件。
第一阶段是卖铲子,也就是GPU、数据中心、云,这些公司的股票,无论是微软、英伟达还是数据中心的公司,这是第一波。往后是应用,很多个性化和To B的应用,都会从这儿开始。最后是Physical AI,就是有各类机器人,比如科研上的机器人。这是五年以后。其实美国第一阶段和第二阶段中插了一个阶段,就是To B的软件公司,所有做SaaS的公司都在努力用大模型来提高软件能力,所以在ToB SaaS上,在productivity(生产力)这一块,这是美国优于中国的一个市场,这块已经有很多投入了。
会不会有super APP,我相信一定会有。如果是OpenAI 持续的在产品上能够有出息的话,我觉得它成为 super APP的可能性非常大。
第五点观察:作为创业者,是做大模型还是做小模型。
大家今天说:“我做不了大模型,那我就做个小模型”,我想说的是一个小模型做好一件事的场景非常有限。我相信把大模型的性能做好,才能真正出现涌现。如果你需要做垂直,也需要把它放到端上,通过蒸馏的方法和持续学习的方法把它做小,而不是一开始就做个小模型。
打个比方,你把孩子送到中专,很快学一门技术,但就会一门技术,也许孩子能做得很好,但稍微一有新的技术出现就跟不上了。你应该把孩子送到哈佛学一个很好的本科,毕业以后可以寻求垂直发展,比如修三年医学院,成为很好的大夫,或者上三年的法学院,成为优秀的律师,但一个好的本科是非常重要的。
第六点观察:大模型投资。
从投资角度而言,机会非常大。今天AI的应用领域都是现有的市场。假如AI每年能提高这些领域10%到15%的效率,连续几年下来,市场就会翻番。只需要提高现有业务的效率,AI就有很大的市场。今天60%的钱进入基础大模型,真正做应用的人不多。但是看看上一波云技术浪潮,云的收入大部分在应用上和SaaS上,所以AI未来的机会也在应用上。
第七点观察:多模态是AGI的终极模型。
最近Sora非常震撼,但多模态大模型其实比Sora要复杂的多。Sora只做了一件事,就是文生视频,也可以做图生视频。它非常逼真,让人觉得很震撼。对我来说震撼在于它生成了一个三维世界,而它的背后没有三维模型。完全用数据训练出一个世界模型,当然是一个初级的世界模型。
GPT-4o就是一个端到端训练的模型。第一,它没有把语音翻译成文字,再送到LLM,再出来文字,再翻译成语音,没有这个过程。进去就是语音,出来也是语音,这样才能达到200毫秒,而且它没有翻译的过程,没有了从语音到文字、再从文字到语音的翻译的过程,没有信息的损失。
GPT-4o已经到了这个moment,未来做多模态,一定是端到端,一定是统一模型。统一的模型多了是吧?今天有音频模型,有视频模型,有文字的模型(ChatGPT3.5),有多模态生成模型,有多模态推理模型。只有到了世界模型,才会有具身智能和通用机器人,才会有AGI,GPT-4o正在往这个方向走。
第八点观察:多模态将赋能机器人。
专用机器人和通用机器人的区别是专用机器人有一段程序,而通用机器人是有一个具身大脑。多模态大模型到世界模型的发展将赋与机器人真正的通用的思考和行动能力,也是通用机器人必要的基础。
未来是一个自主智能的世界,就是通用的具身智能。机器不只是具备了人的思考和行动能力,还具备了人的自主能力。
什么是奇点来临?只要机器的学习能力超过了人,智能就会超过人了。所谓的奇点来临,就是这个意思。
杰弗里·辛顿(图灵奖得主),认为,数字计算一定会超过生物计算,也就是数字智能一定会超过生物智能。这意味着奇点迟早有一天会早来,只不过是5年到还是25年到还是更久。