AI寒冬的言论近日再度浮现,OpenAI的联合创始人Ilya Sutskever(伊利亚·苏茨克维尔)在接受路透社采访时谈到AI领域目前所面临的瓶颈,以及未来可能的发展方向。他的观点引发了广泛关注,尤其是关于“扩展”这一策略的效用是否即将见顶的讨论。
Ilya接受路透社最新采访
引述:“Ilya被广泛认为是通过预训练时使用更多数据和算力来推动生成式 AI 重大进展的早期倡导者,这种方法最终催生了 ChatGPT。今年早些时候,Ilya离开 OpenAI,创办了 SSI。”
"Sutskever is widely credited as an early advocate of achieving massive leaps in generative AI advancement through t he use of more data and computing power in pre-training, which eventually created ChatGPT. Sutskever left OpenAI earlier this year to found SSI."
引述:Ilya,我不想说“我早就说过了”,但事实就是如此
"I don't wanna say "I told you so", but I told you so."
引述:“Safe Superintelligence(SSI)和 OpenAI 的联合创始人伊利亚·苏茨克维尔(Ilya Sutskever)表示:通过扩展预训练——即在训练 AI 模型时使用大量未标注数据来理解语言模式和结构的阶段——取得的效果已经触及瓶颈。”
"Ilya Sutskever, co-founder of AI labs Safe Superintelligence (SSI) and OpenAI, told Reuters recently that results from scaling up pre-training - the phase of training an AI model that uses a vast amount of unlabeled data to understand language patterns and structures - have plateaued." ...
引述:Ilya的发言,“2010 年代是扩展的时代,而现在我们又回到了充满奇迹和发现的时代。每个人都在寻找下一个突破,”Ilya说道。“如今,正确选择扩展的方向比以往任何时候都更为重要。”
"Ilya:The 2010s were the age of scaling, now we're back in the age of wonder and discovery once again. Everyone is looking for the next thing,” Sutskever said. “Scaling the right thing matters more now than ever.”
主要观点总结
1. 扩展的局限
Sutskever被誉为推动生成式AI快速发展的先驱之一。他指出,利用更大规模的数据和计算资源进行AI模型预训练的方式,在过去十年带来了显著的进展,最终促成了像ChatGPT这样的应用诞生。但他也透露,这一方法的效果似乎已达到极限。SSI(Safe Superintelligence)——由Sutskever创建的新公司,正在寻找突破目前瓶颈的创新方向。
2. 时代变迁:从扩展到发现
Sutskever提到,2010年代是“扩展的时代”,更多数据和算力推动了AI的迅速发展。而现今,AI界又回到了“充满奇迹和发现的时代”,再盲目增加计算资源和数据已经不足以支撑新的飞跃。Sutskever表示,当前更关键的是选择适当的方向来“扩展”,换句话说,是找到真正有效的突破点,而非仅依赖资源的堆积。
3. OpenAI变动与未来的不确定性
在OpenAI中担任核心职务的部分人员的离职和近期关于GPT-5进展不顺利的传闻,让外界开始怀疑OpenAI内部是否面临挑战。虽然GPT-5是否会带来突破尚无定论,但这些变动确实引发了对该公司未来路线的猜测。
4. AGI的乐观展望
尽管业内存在质疑,OpenAI的另一位联合创始人Sam Altman在最近的采访中却表示乐观,声称到2025年可能会实现AGI(通用人工智能)。他认为,实现AGI的路径已经愈发清晰,预计在未来两年内将取得重大进展。然而,这一目标在时间上较为紧迫,考虑到AI目前的技术挑战,这一愿景能否按时实现仍然充满不确定性。
目前来看,AI领域确实面临着一些发展瓶颈。Sutskever等人的观点表明,过去依赖数据和算力提升的“规模化策略”已难以持续,未来的突破更可能依赖新的研究方向和方法。在扩展数据和算力的道路上,AI或许已经接近其上限,但AGI的实现仍然是业内人士所追求的终极目标。
2025年是否真会见证AGI的诞生?业内对这一问题众说纷纭。尽管Sutskever的言论透露出对当前AI发展速度的担忧,Altman的信心似乎又给予了AI界一丝希望。未来AI的寒冬是否真的到来,还有待观察。
军哥免费星球,欢迎有兴趣的朋友来聊聊,内容涵盖职场、副业、技术等等。