GPT之父惊人预言:预训练已触顶,AI将进化出自我意识

百科   2024-12-20 22:08   吉林  

AI大神Ilya的一个公开演讲视频这两天在网上爆了。

Ilya是谁呢?他是AI教父Jeffrey Hinton的得意高徒,曾经的OpenAI联合创始人兼首席科学家,真正的GPT之父。

他有多厉害呢?可以说,没有他,就没有今天的ChatGPT。

一向对AI的安全问题又敏感又谨慎的他这次说了一个非常激进的观点:人工智能预训练时代即将结束,接下来,就是智能体时代。

先来讲一讲预训练。

怎么理解这个预训练结束呢?当前的这些人工智能其实就像孩子,人工智能企业给他们投喂整个数字世界中有价值的数据,就像是一个孩子不断学习知识,然后懂得了各种道理,人工智能也一样,这个过程就叫“预训练”。

在算法、算力、数据这几大要素当中,算法就不用说了,算力呢,GPU还在指数级增长,但是数据不会。

互联网上的数据就像"化石燃料",是有限的,光靠堆数据、堆算力的路已经走不通了。

在这里要插一句,OpenAI连续12天直播发布的产品是一个比一个贵,甚至发布了一个2000美元的“博士级”产品,可以看出山姆奥特曼走向商业化的步伐明显加大了。

这或许就跟这个预训练时代结束有着密切的关系,芯片、顶级科研人员、投资人的回报,都是巨大的压力。

反过来看,这也是中国公司的机会。

一方面,国内大模型的追赶速度会超过ChatGPT,另一方面,中国市场有着最丰富的应用场景和最活跃的市场需求。

再来说一说智能体。

Ilya预测,接下来登场的超级智能体,他认为,AI将进化出真正的推理能力。

现在的AI更像是在模仿人类的直觉反应,但未来的AI将能进行深度思考。

当AI具备了推理能力、自我意识,以及从有限数据中学习的能力,它将成为一个全新的智能物种。

以上是我个人的一些理解,一起来看一下Ilya最近仅16分钟但信息量巨大的演讲。

十年前的朴素时代

Ilya首先带我们回到了十年前。

"这是一个更加无邪的时代,"他笑着指着当年的照片说。

那时的他们怀着一个简单的信念:如果一个神经网络有十层,就能在瞬间完成任何人类能做到的事情。

"为什么特别强调'一瞬间'?"

Ilya解释道,"如果你相信深度学习的教义,相信人工神经元和生物神经元是相似的,那么只要有一个人能在一瞬间完成某项任务,一个十层的神经网络理论上也能做到。"

这个假设现在看来确实有些天真。

"当时我们只知道如何训练十层网络,这就是为什么我们强调人类在瞬间能做的任何事情,"Ilya坦言。

但正是这种朴素的信念,推动了深度学习的飞速发展。

预训练时代的终结

谈到当下,Ilya用了一个令人印象深刻的比喻:"数据就像是人工智能的化石燃料。

它像是某种方式被创造出来的,现在我们使用它,但我们已经达到了数据的巅峰,再也不会有更多了。"

在AI发展的三驾马车中,算力通过更好的硬件持续提升,算法不断优化突破,但数据增长已经触顶。

"我们只有一个互联网,"Ilya直言不讳,"虽然计算能力通过更好的硬件、更好的算法和更大的集群在增长,但数据并没有增长。"

智能体时代的新图景

那么,下一个时代会是什么样?

Ilya描绘了一幅令人震撼的蓝图:"系统迟早会实现具备代理能力的目标。目前,这些系统在有意义的层面上还不是代理。它们只是微弱地开始具有代理性功能。"

Ilya还提到了推理能力带来的不可预测性:"一个进行推理的系统,推理越多,越不可预测。我们习惯的深度学习非常可预测,因为其本质上是在复制人类的直觉反应。如果我们考虑到0.1秒的反应时间,我们大脑中的处理就是直觉。"

他还用了一个生动的生物学类比。

在一张展示哺乳动物体型与大脑大小关系的图表中,类人猿展现出了与其他物种完全不同的发展轨迹。

"这意味着有先例,有生物学找出某种不同缩放的例子,显然有些东西是不同的,"Ilya说,暗示AI的发展可能也会出现类似的质变。

未来已来

在演讲的最后,Ilya留下了一个令人深思的话题:"当所有这些事情汇聚在一起时,我们将拥有与今天截然不同的质量和属性的系统。它们将拥有令人难以置信和惊人的能力。"

面对听众关于AI是否会取代人类的提问,Ilya给出了一个耐人寻味的回答:"这是一种新的人类智力物种。所以,也许他们需要这些东西(权利)。"

这场演讲让我们看到,AI发展正站在一个激动人心的转折点上。

预训练时代的终结不是终点,而是新起点。

当AI具备真正的推理能力和自我意识,它将开启人类历史上一个全新的篇章。

正如Ilya所说,未来充满不确定性,但机遇与挑战并存。

在这个技术与人性交织的新时代,我们需要以更开放的心态,更深远的眼光,来思考和把握AI发展的方向。



以上,既然看到这里了,如果觉得不错,随手点个赞、在看、转发三连吧,如果想第一时间收到推送,也可以给我个星标⭐~谢谢你看我的文章,我们,下次再见。

DeepSci
专注于 AI 产业资讯、产品评测、实用教程分享
 最新文章