马斯克和萨姆·奥特曼打官司,作为马斯克和萨姆·奥尔特曼之间法庭案件的一部分,一堆他们和伊利亚·苏茨克维尔、格雷格·布罗克曼之间的邮件被公开了。看完之后,我觉得这些邮件很有价值和学到很多,但网上没有整理好的版本,所以我整理了一份。
(原始邮件在这里:https://www.courtlistener.com/docket/69013420/musk-v-altman/)
为了方便大家阅读,我把所有邮件分成19篇内容发布。
第一篇总结:标志着 OpenAI 等人工智能项目的思想雏形,记录了 Sam Altman 和 Elon Musk 在 2015 年关于人工智能发展与治理的一场关键讨论,主要反映了他们对 AI 潜在影响的战略性思考以及早期的合作设想
这让我深刻感受到,AI技术虽然是中立的,但人类如何掌控它却是关键
以下第一篇邮件原文:
主题:问题
发件人:Sam Altman 发送给 Elon Musk - 2015年5月25日 晚上9:10
最近一直在思考,是否有可能阻止人类发展人工智能。
我觉得答案几乎肯定是否定的。
如果人工智能注定会被开发出来,那让谷歌以外的其他人率先完成似乎是个好主意。
你怎么看 YC 是否应该启动一个类似“曼哈顿计划”的人工智能项目?
我的感觉是我们可能可以吸引前 50 名顶尖研究人员中的许多人参与其中。
我们可以将其设计为一种技术属于全球的非营利结构,同时为参与者提供类似初创公司般的丰厚回报。显然,我们会完全遵守并积极支持所有相关法规。
Sam
发件人:Elon Musk 回复 Sam Altman - 2015年5月25日 晚上11:09
这事值得讨论。
发件人:Sam Altman 发送给 Elon Musk - 2015年6月24日 上午10:24
我们的目标是创造第一个通用人工智能(AGI),并将其用于个体赋权——也就是那种分布式的未来,这看起来是最安全的选择。总体来说,安全性应当被视为一项核心要求。
我认为我们可以先从一个 7-10 人的小团队开始,并计划逐步扩展规模。
在山景城,我们有一栋不错的备用楼可以使用。
关于治理结构,我建议由 5 人组成的委员会开始:我提议你(Elon Musk)、比尔·盖茨(Bill Gates)、皮埃尔·奥米迪亚(Pierre Omidyar)、达斯汀·莫斯科维茨(Dustin Moskovitz)和我本人。技术将由基金会持有,并用于“世界的利益”。在不明确如何应用技术的情况下,这 5 人将共同决定。研究人员将有显著的经济回报,但与他们开发的内容没有直接关联,这样可以消除一些潜在的冲突(我们会支付他们有竞争力的薪水,并提供 YC 的股权作为回报)。我们会持续讨论哪些工作应该开源,哪些不应该。将来我们需要找一个人来领导团队,但这个人可能不应该在治理委员会中。
你是否愿意除了治理角色外,还以某种形式参与?我觉得如果你能在方向上提供指导并帮助吸引优秀人才加入,会非常有帮助。理想情况下,你可以每月来一次,与团队聊聊进展。我们在 YC 内通常将这种有限度的参与称为“兼职合伙人”(比如 Peter Thiel),但具体叫什么随你喜欢。即使你没有时间深度参与,但能在公众场合表达支持,这对于招聘来说也会非常有帮助。
我觉得关于监管信的计划可以等到项目启动后再发布,然后我可以以这样的措辞发布它:“既然我们正在做这个项目,我一直在思考世界需要什么样的安全约束。” 如果你愿意,我可以不把你列为签署人。我还猜测信公开后,会有更多人愿意支持它。
Sam
发件人:Elon Musk 回复 Sam Altman - 2015年6月24日 晚上11:05
完全同意。
关注《森林聊AI商业》公众号
了解 AI 如何塑造商业的未来