【马斯克起诉奥特曼第17篇】:OpenAI的这份宪章,如何承诺让人工智能造福全人类

文摘   2024-11-17 16:43   广东  


马斯克和萨姆·奥特曼打官司,作为马斯克和萨姆·奥尔特曼之间法庭案件的一部分,一堆他们和伊利亚·苏茨克维尔、格雷格·布罗克曼之间的邮件被公开了。看完之后,我觉得这些邮件对创业初期很有价值和学到很多,但网上没有整理好的版本,所以我整理了一份。

(原始邮件在这里:

https://www.courtlistener.com/docket/69013420/musk-v-altman/)


为了方便大家阅读,我把所有邮件分成19篇内容发布。

【马斯克起诉奥特曼第1篇】:OpenAI 项目的思想雏形

【马斯克起诉奥特曼第2篇】:吸引AI研究人才的策略

【马斯克起诉奥特曼第3篇】:如何为AI研究公司,起草吸引顶尖人才招聘信息!

【马斯克起诉奥特曼第4篇】OpenAI应对DeepMind的薪资对抗策略

【马斯克起诉奥特曼第5篇】:马斯克如何选择AI人才

【马斯克起诉奥特曼第6篇】:要么招到世界上最优秀的人才,要么被 DeepMind 打得落花流水!

【马斯克起诉奥特曼第7篇】:人物访谈背后那些不为人知的“内定”细节

【马斯克起诉奥特曼第8篇】:为什么 AI 力量不应由公司垄断

【马斯克起诉奥特曼第9篇】:微软与OpenAI合作的代价,成为宣传工具

【马斯克起诉奥特曼第10篇】:OpenAI的算法被DeepMind用上了,行业标杆实锤了

【马斯克起诉奥特曼第11篇】:Greg 和 Ilya 为啥担心马斯克不够投入?

【马斯克起诉奥特曼第12篇】:马斯克为何突然撤资?解读OpenAI内部控制权之争

【马斯克起诉奥特曼第13篇】:非营利的终局?

【马斯克起诉奥特曼第14篇】:对ICO说“不”

【马斯克起诉奥特曼第15篇】:与谷歌竞争,与特斯拉合作是OpenAI唯一的选择”

【马斯克起诉奥特曼第16篇】:OpenAI 的新筹资模式,马斯克为何突然退出OpenAI?



第17篇总结:

Sam AltmanElon Musk发了一封邮件,主题简单明了:“我们计划下周发布这个文件——你有什么看法吗?”

邮件的内容,是一份标题为《OpenAI 宪章》的草案。

这是OpenAI的愿景和承诺,是对未来人工智能(AGI)的公开宣誓。它用极其冷静的语言,描绘了一个庞大的目标:“确保通用人工智能造福全人类。”




以下邮件原文:


主题:OpenAI 宪章

发件人:Sam Altman
收件人:Elon Musk (抄送:Shivon Zilis)
日期:2018年4月2日 下午1:54
内容:我们计划下周发布这个文件——你有什么看法吗?



OpenAI 宪章

OpenAI 的使命是确保通用人工智能(AGI)能够造福全人类。这里的 AGI 是指那些高度自主、在大多数有经济价值的创造性工作中能超过人类的智能系统。

我们会努力直接开发安全、对人类有益的 AGI,但如果我们的研究工作能够帮助其他人实现这一目标,我们也会认为使命得到了完成。为此,我们承诺遵守以下原则:

广泛共享的利益

我们承诺,在影响 AGI 的部署时,确保它被用来造福全人类,避免因 AGI 导致伤害人类或权力过度集中。

我们的首要责任是对全人类负责。我们知道,要完成我们的使命需要大量资源,但我们会尽力减少可能影响公平利益分配的内部冲突,比如员工和利益相关者之间的利益冲突。

长远的安全性

我们致力于开展必要的研究,确保 AGI 是安全的,并推动整个 AI 社区采用这些安全措施。

我们担心 AGI 的后期开发可能会演变成一场竞赛,导致没有足够时间来做好安全防范。如果出现一个价值观相符且注重安全的项目在我们之前接近完成 AGI,我们承诺停止竞争,转而协助该项目。具体细节将视情况通过协议商定,比如可能触发我们合作的条件是“在未来两年内该项目有超过 50% 的成功几率”。

技术上的领导力

要有效应对 AGI 对社会的影响,OpenAI 必须在 AI 技术上处于领先地位,仅靠政策和安全方面的呼吁是不够的。

我们相信,在 AGI 出现之前,AI 已经会对社会产生深远的影响。我们将努力在与我们使命和专长紧密相关的领域保持技术领先。

合作的态度

我们将积极与其他研究机构和政策组织合作,致力于建立一个全球性的社区,共同应对 AGI 带来的全球挑战。

我们承诺提供帮助社会应对 AGI 发展路径的公共产品。现在这意味着公开发布我们的大部分 AI 研究成果,但我们预计,随着安全和保密需求的增加,我们会减少传统的研究发布,同时加强与安全、政策和标准相关的研究共享。



Elon Musk 回复 Sam Altman
日期:2018年4月2日 下午2:45
内容:听起来不错。



关注《森林聊AI商业》公众号


了解 AI 如何塑造商业的未来








森林聊AI商业
每日一起了解,AI如何改变科技世界
 最新文章