Ilya Sutskever:AI模型其实就是想学习,没有别的

文摘   2024-11-12 17:15   广东  

点击查看完整访谈内容


Ilya Sutskever说过:“你要知道,这些AI模型就是想学习,没有别的。

在这段访谈中,Dario Amodei回顾了他在OpenAI的经历,特别是关于模型“想要学习”的理念如何影响了他的研究方向。

模型的“学习欲望”有多强?

在OpenAI的几年间,Dario和研究总监Ilya Sutskever一起负责设定研究方向。大约在2016年到2017年期间,Ilya告诉Dario一句话,深深地影响了他对AI模型的理解:“你要知道,这些模型就是想学习。”这句简单的话道出了模型的核心动力:它们并不偏向某种具体任务,只要提供了正确的条件和目标,它们会本能地追求学习与探索。

这对Dario来说是一种启发。正如Dario所说,一旦模型被正确地引导和优化,它们会自动地去解决面前的问题,无论这些问题有多复杂。这个理念让Dario认识到,模型的潜力不仅仅在于完成某些具体任务,而是具备“自我驱动力”,只要我们别过多干预它们的自然发展,AI就能真正成长。

在OpenAI负责的项目

Dario还谈到了他在OpenAI主导的项目,包括开发GPT-2、GPT-3等。他与Alec Radford等人一起,推动了模型的性能和规模(缩放性),也在研究如何让模型更安全、可解释。

他们在开发人类反馈的强化学习(RLHF)等新技术方面付出了巨大努力,为AI的安全性和实用性打下了基础。在2018年至2020年间,Dario与他的团队奠定了这些基础,后来这部分成员成为Anthropic的联合创始人。他们的共同愿景是将AI安全性和可解释性放在首位,并探索如何将这种“自我驱动的学习”最大化地应用于现实世界。

这段经历既是Dario对模型“本能学习”理念的印证,也让他对AI模型的未来方向有了更深刻的理解,最终推动他从OpenAI转向了更专注于AI安全性的Anthropic。






关注《森林聊AI商业》公众号


了解 AI 如何塑造商业的未来




森林聊AI商业
每日一起了解,AI如何改变科技世界
 最新文章