Ilya Sutskever说过:“你要知道,这些AI模型就是想学习,没有别的。
在这段访谈中,Dario Amodei回顾了他在OpenAI的经历,特别是关于模型“想要学习”的理念如何影响了他的研究方向。
模型的“学习欲望”有多强?
在OpenAI的几年间,Dario和研究总监Ilya Sutskever一起负责设定研究方向。大约在2016年到2017年期间,Ilya告诉Dario一句话,深深地影响了他对AI模型的理解:“你要知道,这些模型就是想学习。”这句简单的话道出了模型的核心动力:它们并不偏向某种具体任务,只要提供了正确的条件和目标,它们会本能地追求学习与探索。
这对Dario来说是一种启发。正如Dario所说,一旦模型被正确地引导和优化,它们会自动地去解决面前的问题,无论这些问题有多复杂。这个理念让Dario认识到,模型的潜力不仅仅在于完成某些具体任务,而是具备“自我驱动力”,只要我们别过多干预它们的自然发展,AI就能真正成长。
在OpenAI负责的项目
Dario还谈到了他在OpenAI主导的项目,包括开发GPT-2、GPT-3等。他与Alec Radford等人一起,推动了模型的性能和规模(缩放性),也在研究如何让模型更安全、可解释。
他们在开发人类反馈的强化学习(RLHF)等新技术方面付出了巨大努力,为AI的安全性和实用性打下了基础。在2018年至2020年间,Dario与他的团队奠定了这些基础,后来这部分成员成为Anthropic的联合创始人。他们的共同愿景是将AI安全性和可解释性放在首位,并探索如何将这种“自我驱动的学习”最大化地应用于现实世界。
这段经历既是Dario对模型“本能学习”理念的印证,也让他对AI模型的未来方向有了更深刻的理解,最终推动他从OpenAI转向了更专注于AI安全性的Anthropic。
关注《森林聊AI商业》公众号
了解 AI 如何塑造商业的未来