真正的合作始于坦诚,隐瞒只会让信任摇摇欲坠。
掌握控制权是一种责任,而非一场独裁的试验。
无法理解对方的动机,信任就成了空中楼阁。
马斯克和萨姆·奥特曼打官司,作为马斯克和萨姆·奥尔特曼之间法庭案件的一部分,一堆他们和伊利亚·苏茨克维尔、格雷格·布罗克曼之间的邮件被公开了。看完之后,我觉得这些邮件对创业初期很有价值和学到很多,但网上没有整理好的版本,所以我整理了一份。
(原始邮件在这里:
https://www.courtlistener.com/docket/69013420/musk-v-altman/)
为了方便大家阅读,我把所有邮件分成19篇内容发布。
【马斯克起诉奥特曼第3篇】:如何为AI研究公司,起草吸引顶尖人才招聘信息!
【马斯克起诉奥特曼第4篇】OpenAI应对DeepMind的薪资对抗策略
【马斯克起诉奥特曼第6篇】:要么招到世界上最优秀的人才,要么被 DeepMind 打得落花流水!
【马斯克起诉奥特曼第7篇】:人物访谈背后那些不为人知的“内定”细节
【马斯克起诉奥特曼第8篇】:为什么 AI 力量不应由公司垄断
【马斯克起诉奥特曼第9篇】:微软与OpenAI合作的代价,成为宣传工具
【马斯克起诉奥特曼第10篇】:OpenAI的算法被DeepMind用上了,行业标杆实锤了
【马斯克起诉奥特曼第11篇】:Greg 和 Ilya 为啥担心马斯克不够投入?
第12篇总结:伊利亚和格雷格在跟埃隆和萨姆谈判时,发现大家在目标、控制权和使命上有很大分歧。
他们发邮件坦率地表达了对埃隆可能掌控AGI的担忧,觉得现在的结构有可能导致独裁,这跟OpenAI最初的愿景完全不符。
结果,埃隆非常不满,直接表态不再给OpenAI提供资金支持,还明确拒绝继续讨论之前的方案。
以下邮件原文:
主题:坦诚的想法
伊利亚·苏茨克维尔写给埃隆·马斯克和萨姆·奥尔特曼(抄送:格雷格·布罗克曼,萨姆·特勒,希文·齐利斯)- 2017年9月20日 下午2:08
埃隆,萨姆:
这次谈判是格雷格和我参与过的最重要的对话。如果项目成功,这可能会成为人类历史上最重要的对话。同时,对我们每个人来说,这也是一次非常个人化的对话。
昨天,当我们考虑根据不竞争协议做出最终承诺时,我们意识到犯了一个错误。我们有几个重要的担忧没有向你们提出来。我们没有提出这些问题,是因为害怕:害怕破坏关系,害怕让你们对我们有负面看法,甚至害怕失去你们作为合作伙伴的可能性。
这些问题有可能无法解决。我们真的希望不会这样,但如果我们现在不讨论这些问题,我们注定会失败。我们有信心可以共同解决问题,并继续合作。
致埃隆:
我们非常希望能与你合作。我们相信,如果我们联手,完成使命的机会会是最大的,潜在的收益也是最高的。这一点毋庸置疑。我们愿意为了与你合作放弃股权、个人控制权,甚至接受随时被解雇的风险——无论需要付出什么代价,我们都愿意。
但是,我们意识到在思考“控制权对世界的意义”时过于草率。因为觉得这样的问题过于狂妄,所以没有认真考虑成功的潜在影响。
目前的结构为你提供了最终对AGI(通用人工智能)拥有绝对控制权的可能性。你表示自己并不想控制最终的AGI,但在这次谈判中,你也向我们展示了绝对控制权对你来说非常重要。
例如,你说过自己需要担任新公司的CEO,这样每个人都会知道你在掌控一切,即使你同时也表示自己讨厌当CEO,更希望不做CEO。
因此,我们担心,当公司在通向AGI的道路上取得实际进展时,你会选择保留这种绝对控制权,尽管现在的意图可能并非如此。我们不同意你所说的“我们的离开能力是最大的权力”。因为一旦公司走上AGI的正轨,公司将变得比任何个人都更加重要。
OpenAI的目标是让未来更加美好,避免出现AGI独裁。你担心Demis可能会创造AGI独裁,我们也有同样的担忧。所以,创造一个可能让你成为独裁者的结构是糟糕的主意,尤其是我们可以建立其他避免这种可能性的结构。
我们还有一些小问题,但觉得有必要提及:
如果我们决定收购Cerebras,我直觉认为这可能会通过特斯拉来完成。但为什么要这么做?我们可以直接从OpenAI内部进行。特斯拉有股东义务最大化股东回报,这与OpenAI的使命并不一致。因此,这样的结果可能对OpenAI并不最优。
我们认为,OpenAI作为非营利机构成功的原因之一是因为你和萨姆的存在。萨姆作为你的实际平衡力量,非常有成效。而格雷格和我,至少到目前为止,在平衡你方面远不如萨姆有效。这一点在此次谈判中也体现出来:我们几乎准备将长期的AGI控制问题置之不理,而萨姆坚持了自己的立场。
致萨姆:
当格雷格和我陷入困境时,你总能给出深刻且正确的答案。你对问题的思考非常深入和彻底。格雷格和我理解技术执行,但我们不清楚结构性决策在接下来的一个月、一年或五年内会如何发展。
但在整个过程中,我们没能完全信任你的判断,因为我们不理解你的“成本函数”。
我们不理解为什么CEO这个头衔对你如此重要。你的陈述理由一直在变化,很难理解你背后的真实驱动力。
AGI真的是你的首要动机吗?这与你的政治目标有什么关系?你的思考过程是如何随时间变化的?
致格雷格和伊利亚:
在这次谈判中,我们也犯了许多错误,在此列举一些(埃隆和萨姆,你们肯定有更多要补充的……):
在谈判过程中,我们让2-3年内的财务回报驱动了我们的决策。这也是为什么我们没有在控制权问题上坚持——我们觉得我们的股权已经足够好,何必操心?但这种态度是错误的,就像一些AI专家不认为AI安全是问题一样,因为他们并不真的相信自己会造出AGI。
在谈判中,我们没有完全坦诚。我们有我们的借口,但这种行为对过程造成了损害,可能会失去萨姆和埃隆。
目前有足够多的问题需要我们坐下来谈清楚。如果我们不这样做,合作将无法成功。我们能今天见一面吗?如果我们都坦诚相待并解决问题,我们创建的公司将更有可能承受未来强大的压力。
——格雷格和伊利亚
埃隆·马斯克写给伊利亚·苏茨克维尔(抄送:萨姆·奥尔特曼;格雷格·布罗克曼;萨姆·特勒;希文·齐利斯)- 2017年9月20日 下午2:17
伙计们,我受够了。这是最后一根稻草。要么自己去做点事情,要么继续以非营利的形式经营OpenAI。我将不再为OpenAI提供资金,除非你们作出坚定承诺留下,否则我只是个傻瓜,实际上是在免费资助你们创办一家初创公司。讨论结束。
埃隆·马斯克写给伊利亚·苏茨克维尔、萨姆·奥尔特曼(抄送:格雷格·布罗克曼,萨姆·特勒,希文·齐利斯)- 2017年9月20日 下午3:08
为了明确,这不是接受之前讨论的事情的最后通牒。这些选项已经不在桌上了。
萨姆·奥尔特曼写给埃隆·马斯克、伊利亚·苏茨克维尔(抄送:格雷格·布罗克曼,萨姆·特勒,希文·齐利斯)- 2017年9月21日 上午9:17
我依然对非营利结构充满热情!
关注《森林聊AI商业》公众号
了解 AI 如何塑造商业的未来