马斯克每周为 OpenAI 花费 5-10 小时,获得完全掌控权,如果时间更少,那么控制权更少花费。 针对 AGI 的极端情况(不仅仅是 Greg / Sam / Ilya)设计短期过渡协议。 制定一项严格的少数股权控制协议,确保 2-3 年的过渡期内权力平稳分配,不受(Greg / Sam / Ilya)个人命运影响。 初始融资目标设定在 2 亿至 10 亿美元之间。 Greg 和 Ilya 的股份最终比马斯克高出 1/10,但差距不宜过大(这一部分仍需进一步明确)。 增加员工数量以满足项目需求。
当前的公司结构使您有可能最终对 AGI 拥有单方面的绝对控制权。您曾表示自己并不想控制最终的 AGI,但在此次谈话中,您向我们展示了绝对控制权对您来说极为重要。 举个例子,您曾表示自己必须成为新公司的 CEO。这样,每个人都能知道您是负责人。同时,您也表示过讨厌当 CEO,更不愿意担任此职。 因此,我们担心,尽管您当前并无此意,但随着公司在通往 AGI 的道路上取得实际进展,您可能会选择继续保留对公司的绝对控制权。
OpenAI 的目标是创造一个美好的未来,并避免 AGI 独裁。您担心哈萨比斯(Demis Hassabis,谷歌 DeepMind CEO)可能会建立一个 AGI 独裁政权,这一点我们也同样忧虑。 因此,构建一个可能让您成为独裁者的公司结构,无疑是糟糕的选择,尤其在完全可以设计出能够避免此风险的另一种结构的情况下。
在整个过程中,我们始终无法完全信任您的判断,因为我们无法理解您的动机。 我们不明白为什么 CEO 这个头衔对您如此重要。您给出的理由一再改变,让人难以真正理解背后的动机。 AGI 真的是您的主要动力吗?它与您的政治目标有何关联?
DeepMind 在 2016 年的运营支出约 2.5 亿美元 (不含计算成本) Google 在 AI 领域拥有压倒性优势,包括 Google Brain、Research、Cloud 等多个部门 在 ICLR 会议上,Google 提交了 83 篇论文,远超其他机构。
OpenAI 在与谷歌的竞争中正走向必然的失败。如果不立即采取重大而果断的行动,除了谷歌之外的所有人都将被边缘化。 我考虑过 ICO 方案,但不会支持它。在我看来,这只会让 OpenAI 和所有与 ICO 相关的人严重失去信誉。如果某件事看起来好得难以置信,那它通常就是错误的。在我看来,这是一次不明智的偏离初心的尝试。
我目前能想到的唯一出路是 OpenAI 进行大规模扩张,以及 Tesla AI 的大规模扩张,或许两者可以同时进行。前者需要大幅增加捐赠资金,并让非常有公信力的人加入我们的董事会。目前的董事会状况非常薄弱。 我将安排时间明天与大家讨论。需要明确的是,我对你们的能力和成就非常尊重,但对目前的管理方式感到不满。这也是为什么最近几个月我很难积极参与 OpenAI 的原因。如果我们能够解决这些问题,我将大大增加我的参与度;如果不能,我将几乎完全退出,并公开减少与 OpenAI 的关联。我不会让自己置身于一种影响力和实际投入的时间不匹配的局面。
Andrej 完全正确。虽然我们可能希望情况并非如此,但在我和 Andrej 看来,Tesla 是唯一有可能与 Google 相抗衡的路径。即便如此,成为 Google 的对手的可能性依然很小,只是并非完全为零。