2022年11月30日，在拉斯维加斯参加Amazon Re:Invent大会时，我不禁思考：“过去十年里，AWS亚马逊云彻底改变了科技行业，下一个引领变革的会是谁？AWS公有云似乎不太可能再次成为主导。” 还有什么基础能力的革命？几小时后，答案浮出水面：OpenAI。
在ChatGPT推出后不久，业界许多人预测OpenAI和ChatGPT将引领我们进入全新的AI时代。两年过去了，我们确实踏上了这条道路。现在，让我们回顾一直困扰我们的七个关键问题，看看两年来的变化和我们学到的经验：
1) 扩展定律Scaling Law会达到瓶颈吗？
目前尚无明确证据表明扩展定律已经达到瓶颈。然而，关于其有效性的争论却愈演愈烈。扩展定律认为，随着数据和计算能力的增加，AI模型的性能会持续提升。
不过，OpenAI肯定对此持不同意见。2024年11月14日，OpenAI首席执行官Sam Altman在推特上表示：“没有瓶颈。” 同样，OpenAI的主要竞争对手之一Anthropic首席执行官Dario Amodei也强调扩展仍然至关重要，但他补充道，扩展不仅仅意味着计算能力，还包括模型和数据集规模等其他因素。
2) ChatGPT会颠覆谷歌搜索吗？
会的，但不是现在。我相信这种颠覆会发生，但需要的时间会超过两年。在ChatGPT推出一周后，我发表了一篇文章预测，OpenAI会成为下一个“AWS”，而不只是下一个“搜索”。有趣的是，由于生成式AI的兴起，所有主要的云服务提供商（包括AWS、Google Cloud、Microsoft Azure和Oracle Cloud）的收入都的确因此获得了额外的增长。
3) 生成式AI的杀手级应用是什么？
目前，ChatGPT仍然是唯一的杀手级应用。虽然GitHub CoPilot和Cursor等编程工具、Character.ai等陪伴应用，以及Perplexity和You.com等搜索工具表现出了一定的潜力，但它们尚未达到ChatGPT的规模。
未来的杀手级应用可能会以AI原生的方式重新定义传统应用程序，比如Cursor重新定义了IDE。我也在开发一个新应用，旨在改变消费者与数字世界的交互方式。此外，类似AlphaFold这样的跨学科应用也充满了巨大潜力。
4) 随着基础模型的改进，我们还需要垂直模型吗？
尽管两年前Sam Altman反对对垂直模型进行大量投资，但今天它们依然至关重要。原因在于，基础模型很难全面有效地吸收专业领域知识。此外，模型大小、数据隐私、延迟和成本等实际问题也使垂直模型在许多场景下不可或缺。
5) 基础模型公司有真正的护城河吗？
多模态和“System 2推理”的持续创新为LLM领导者OpenAI提供了一道暂时的护城河。然而，过去两年表明，前沿模型的优势转瞬即逝。Meta的LLaMA进一步挑战了前沿模型提供商维持护城河的能力。
我认为，更持久的竞争优势在于吸引顶尖人才并获得充足的资金（用于计算和数据），而不是模型本身。尽管OpenAI今天仍然能够吸引顶尖人才并激励他们在创业环境中努力工作，但这种光环正在逐渐减弱。我个人之所以放过投资OpenAI的机会就是因为我不确定它是否能长期吸引最优秀的工程师和研究人员。我自己的团队也招募了一位候选人，他拒绝了OpenAI的邀请——这在一年前几乎是不可能的。
6) 因ChatGPT受益最大的上市公司是谁？
过去两年的答案已经非常明确：Nvidia英伟达和微软，但Nvidia英伟达收益最大。
至于苹果和亚马逊，他们虽然在努力追赶，但尚未证明自己能够在AI时代延续主导地位。
7) 会有人超越OpenAI吗？
尽管OpenAI面临许多内部挑战，这个答案仍不明朗。像谷歌、微软、Anthropic和xAI这样的公司可能会对OpenAI构成威胁，但到目前为止，还没有公司表现出能够超越它的能力。
值得注意的是，就在我们庆祝ChatGPT生日之际，马斯克Elon Musk于2024年11月29日提交了一份禁令申请，试图阻止OpenAI向营利性模式转变——这一举动可能会对OpenAI的融资产生重大影响。
回顾两年的学习之路
在过去两年中，我写了许多博客、发表了演讲并参与了多次访谈。以下是我回过头去看之后的反思：
• 2023年1月：我在一个现场访谈时聊到英语（自然语言）将成为新的编程界面。一周后，OpenAI联合创始人Andrej Karpathy也在推特中表示：“最热门的新编程语言是英语。”
• 2023年3月：在GPT-4发布后，我勾勒了企业应用的未来，现在想想我的方向是对的，但是我以及所有人都高估了生成式AI在企业中的采用速度。
链接
• 2023年4月：在《重温寒武纪大爆发》中，我讲了Meta等公司推出的开放模型正在崛起。回想起来，那时我还是低估了它们在过去一年半中所产生的重大和迅速的影响。
链接
• 2023年5月：我强调了数据质量优于数据数量的重要性——这一原则在今天仍然至关重要。
链接
• 2023年6月：在《测量（评估）就是一切》中，我指出评估是生成式AI面临的一个关键技术障碍。坦率地说，直到今天，许多人仍低估了这一关键问题。
链接
• 2023年7月：在斯坦福大学的一次演讲中，我讨论了“硅谷的新叛逆八人帮”，强调了人才流动对行业的深远影响，并将Google/OpenAI比作现代时代的Fairchild。
链接
• 2023年11月：在Palo Alto Networks的一次公司内部演讲中，我将LLM比作“微型计算机”。现在回想起来，这一比喻其实低估了它的革命潜力。
链接
• 2024年1月：我所写的Sam Altman奥特曼对GPT-5评论的推文获得了两百万浏览量，并在硅谷引发了大量讨论。然而，奥特曼对GPT-5“发布的时间表预测显然过于乐观。
链接
• 2024年3月：在加州大学伯克利分校的主题演讲中，我展望了生成式AI数字化和个性化长尾服务（如医疗和教育）的潜力（“服务即AI软件”）。尽管我们仍处于这一转型的早期阶段，但类似AlphaFold这样的突破为未来提供了希望。
链接
• 2024年7月：在斯坦福大学的一次大课中，我探讨了AI在宏观层面的积极影响与一些领域毁灭性打击的共存，强调了这种不平衡的社会影响。
链接
• 2024年9月：受斯坦福大学教授Erik Brynjolfsson的启发，我提出“ChatGPT时刻”更像电力革命，而不是iPhone或微型计算机革命，因为真正的电力变革需要深刻的文化和流程创新。
展望未来
在庆祝ChatGPT生日之际，回顾我们过去的成就令人振奋。更令人期待的是，我们的未来仍有无限可能。生成式AI不仅是一项技术，它还是推动我们重新思考生活、工作和创新方式的催化剂。让我们共同迎接前方的旅程吧！🚀
