萨姆·奥特曼（Credit: Julian_Rosswag_）
2024年1月5日，OpenAI公司首席执行官萨姆·奥特曼（Sam Altman）发表了一篇题为《深思熟虑后的想法（Reflections）》的博文（可通过点击文章左下角“阅读原文”浏览原文）。
文章从回顾CharGPT3.5的发布开始，讲述公司在无人区的不易。但这不重要，重点在文章最后部分。
奥特曼表示，
“
我们现在知道如何构建AGI，并对此充满信心。
...
OpenAI公司正在转向真正意义上的超级智能。
...
我们以前去过那里，我们可以再去那里。
”
这坐实了一年前坊间关于OpenAI已经摸到了超级人工智能/通用人工智能（AGI）的传闻。
看来，这一次OpenAI是要把“我们以前去过那里”的版本，重新打开封印了。
就在“Reflections”发布的前一天，奥特曼通过社交媒体表示“奇点（singularity）即将来临”，两者形成了呼应。
奥特曼的“奇点”来临贴（Credit: Sam Altman）
看来这哥们主意已定，魔盒就要打开，是天堂还是地狱？
以下为奥特曼的《Reflections》全文：
一个多月前ChatGPT经历了第二个生日，现在我们已经过渡到可以进行复杂推理模型的下一个范式。新年让人们陷入沉思，我想分享一些个人的想法，关于它到目前为止的进展，以及我在此过程中学到的一些东西。
随着我们离通用人工智能（AGI）越来越近，感觉这是一个重要的时刻来审视我们公司的进展。还有很多事情要了解，还有很多我们不知道的，而且现在还为时过早。但我们比刚开始时知道的要多得多。
我们在大约九年前开始了OpenAI，因为我们相信AGI是可能的，它可能是人类历史上最有影响力的技术。我们想弄清楚如何建立它并使它广泛受益；我们很高兴尝试在历史上留下我们的印记。我们的抱负非常高，我们相信这项工作可能以同样非凡的方式造福社会。
当时，很少有人关心，如果他们关心，那主要是因为他们认为我们没有成功的机会。
在2022年OpenAI仍是一个安静的研究实验室，正在研究一个暂时名为“Chat With GPT-3.5”的东西(我们在研究方面比在命名方面要好得多)。我们一直在观察人们使用我们API的游乐场功能，并且知道开发人员真的很喜欢与模型交谈。我们认为围绕这种体验构建一个演示将向人们展示未来的重要内容，并帮助我们使模型更好、更安全。
我们最终将其称为ChatGPT，并于2022年11月30日推出。
我们只是抽象地知道，在某个时候，我们会达到一个临界点，人工智能革命将开始。但我们不知道那一刻会是什么。令我们惊讶的是，原来就是这个。
ChatGPT的推出开启了我们从未见过的增长曲线——在我们的公司，我们的行业和全世界范围内。我们终于看到了我们一直希望从人工智能中获得的一些巨大优势，我们可以很快会看到更多。
——————————————————
这并不容易。道路并不平坦，正确的选择也不明显。
在过去的两年里，我们不得不围绕这项几乎从零开始的新技术，建立了一个完整的公司。除了这样做之外，没有任何方法可以培训队伍，当技术类别是全新的时候，根本没有人可以告诉你应该如何做。
以如此少的培训和如此高的速度建立一家公司是一个混乱的过程。通常是向前走两步，向后退一步（有时，前进一步，后退两步）。错误会随着你的前进而得到纠正，但当你做原创工作时，没有任何手册或指南。在未知的领域中快速移动是一种不可思议的体验，但对所有玩家来说也是巨大的压力。冲突和误解比比皆是。
这些年是我生命中最有回报的、快乐的、最佳的、有趣的，也是令人筋疲力尽，压力巨大的，尤其是在最近的这两年里，我感到不愉快。
压倒性的感觉是感激；我知道有一天我会退休在我们的牧场看着植物生长，有点无聊，我会回想我从小就梦想做的工作是多么酷。我试着记住，在任何一个星期五，当七件事情在下午1点之前严重出错时。
——————————————————
一年多前，在一个多事的星期五，我在视频通话中被意外解雇了。然后就在挂断电话后，董事会发表了一篇关于这件事情的博文。当时我在拉斯维加斯的一个酒店房间里。这种感觉从某种程度上来说几乎无法解释，就像一场噩梦。
在没有任何警告的情况下被公开的解雇了，开始了非常疯狂的几个小时，和相当疯狂的几天。“战争迷雾”是最奇怪的部分。没有人能够就“发生了什么，或者为什么”得到满意的答案。
在我看来，整个事件是由善意的人，包括我自己在内，对公司治理的重大失败。回想起来，我当然希望自己当时能做得不一样，而且我也愿意相信，今天的我是一个比一年前更好，更有思想的领导。
我还认识到，在管理一系列复杂挑战方面，拥有不同观点和丰富经验的董事会的重要性。良好的治理需要大量的信任和信誉。我很欣赏这么多人共同努力，为OpenAI建立更强大的治理体系，使我们能够实现确保AGI造福全人类的使命。
我最大的收获是必须懂得感恩。我应该感谢很多人：感谢在OpenAI工作并选择花费时间和精力追求这个梦想的每一个人，感谢帮助我们度过危机的朋友，感谢我们的合作伙伴和客户支持我们并委托我们使他们取得成功，以及我生命中向我展示他们有多关心我的人。
最后，我们以更有凝聚力和积极的方式回到了工作中，我为我们从那时起的专注感到非常自豪。我们已经完成了一些很容易成为我们有史以来最好的研究。我们从大约1亿周活跃用户增长到超过3亿。最重要的是，我们继续将人们似乎真正喜欢的技术推向世界，并解决实际问题。
——————————————————
九年前，我们真的不知道我们最终会成为什么；即使是现在，我们也只是知道一些。人工智能的发展经历了许多曲折，我们认为未来会有更多。
有些曲折是快乐的；有些曲折是艰难的。看着源源不断的研究奇迹发生，这很有趣，许多反对者已经成为真正的信徒。
我们也看到一些同事离开并成为竞争对手。OpenAI的扩张速度非常快，团队随着规模的扩大而翻翻。我认为其中一些是不可避免的——初创公司通常在每个新的主要领域都会看到大量的人员流动，而在OpenAI，数字每隔几个月就会增加一个数量级。
过去两年就像一个普通公司的十年。当任何一家公司发展如此之快时，利益自然会出现分歧。当一个重要行业的任何公司处于领先地位时，很多人会出于各种原因攻击它，特别是当他们试图与它竞争时。
我们的愿景不会改变；我们的战术将继续发展。例如，当我们开始时，我们并不知道必须建立一个产品公司，以为只是要做一些伟大的研究。我们也不知道需要如此疯狂的资金。我们现在必须去建立新的东西，这在几年前我们还不理解。未来会有新的东西，现在的我们几乎无法想象。
我们对迄今为止在研究和部署方面的记录感到自豪，并致力于继续推进我们对安全和利益的共同考量。我们仍然相信，使人工智能系统安全的最佳方法是迭代并逐步将其发布到世界上，让社会有时间适应并与技术共同发展，从经验中学习，并继续使技术更安全。我们相信成为安全和对齐研究领域的世界领导者的重要性，并通过来自现实世界应用的反馈来指导研究。
正如我们传统上所理解的那样，我们现在知道如何构建AGI，并对此充满信心。我们相信，在2025年，我们可能会看到第一批人工智能代理（AI Agent）“加入劳动力队伍”，并实质性地改变公司的产出。我们仍然相信，迭代地将伟大的工具交到人们手中会带来伟大的、广泛分布的结果。
什么是AI代理?（Credit: Julian_Rosswag_）
我们正开始将目标超越这个，转向真正意义上的超级智能。我们热爱我们目前的产品，但我们的存在是为了辉煌的未来。有了超级智能，我们可以做任何事情。超智能工具可以大大加速科学发现和创新，远远超出我们自己的能力，并反过来大幅增加富足和繁荣。
现在这个听起来像科幻小说，甚至谈论它有点疯狂。没关系，我们以前去过那里，我们可以再去那里。我们非常有信心，在接下来的几年里，每个人都会看到我们所看到的，并且需要非常谨慎地采取行动，同时仍然基于最大最广泛的利益和授权，这非常重要。鉴于我们工作的可能性，OpenAI不可能是一家普通的公司。
能够在这项工作中发挥作用是多么幸运和谦卑啊！
######
延伸阅读：
转载请注明来源于公众号“全球航天事件”！
