FUTURE | 远见 闵青云 选编
OpenAI的组织架构调整风波越来越热闹了，这出戏可能还有续集！就在这两天，一家名叫Encode的机构向法院提交了一份「非当事人意见陈述」，直指OpenAI计划转为营利性实体的行为，要求法院阻止这一「变身」计划。
Encode是谁？他们为什么要这么做？
Encode可不是什么无名小卒，它是美国一个由年轻人主导的组织，一直致力于推动人工智能的良性发展，更注重AI对人类的友好性和安全性。简单来说，他们希望AI能真正为人类服务，而不是成为某些人牟利的工具。
OpenAI是由马斯克等人创立的AI巨头，最初打着「非营利」的旗号，目标是「为了全人类的利益」。然而，随着近年来AI技术的飞速发展，OpenAI似乎也开始动起了「心思」……
Encode这次出手，正是因为他们认为OpenAI转为营利性实体将彻底背离其初衷，甚至可能对整个人类社会造成威胁。 他们在文件中指出，一旦OpenAI变成一家以利润为导向的公司，那么原本为保障AI安全而设立的种种机制都将形同虚设。
想想看，如果一个组织不再以「造福人类」为最高目标，而是需要对投资人的利益负责，那么在「安全」和「利润」之间，它会如何选择？
Geoffrey Hinton等站台
Encode可不只是说说而已，他们还拉来了包括2024年诺贝尔物理学奖得主、2018年图灵奖得主Geoffrey Hinton在内的多位AI大佬站台。Hinton更是直言不讳地指出：
「OpenAI最初是一家明确以安全为中心的非营利组织，并在其章程中做出了各种与安全相关的承诺……当这一切变得「不方便」时，OpenAI却想将所有这些都「撕掉」，这给生态系统中的其他参与者发出了一个非常糟糕的信号。」
马斯克也转发了，直言Geoffrey Hinton是一个好人，老马彻底成为了OpenAI的死对头，哈哈。
Encode的法律事务副总裁兼总法律顾问Nathan Calvin说：「公众有重要利益确保变革性人工智能由一个受法律约束优先考虑安全而非利润的组织控制。OpenAI的成立是为了保护这一承诺，公众利益要求他们信守诺言。」
加州大学伯克利分校计算机科学杰出教授兼人类兼容人工智能中心主任Stuart Russell表示：「非营利委员会放弃的不仅仅是OpenAI的所有权；它还放弃了阻止OpenAI使人类面临生存风险的能力。换句话说，它放弃了其存在的首要理由。人类的生存应该由投资者的损益计算来决定的想法是令人憎恶的。」
Encode认为，鉴于OpenAI自身所言，创造通用人工智能 (AGI) 将从根本上改变社会，因此他们认为不可能设定一个价格来充分补偿非营利组织失去对这种转变如何展开的控制。
这场「硬刚」最终将走向何方？ 法院将于2025年1月14日就初步禁令举行听证会，届时我们将见分晓。
写在最后
作为一名长期关注AI发展的博主，我认为Encode的担忧并非杞人忧天。AI的发展速度已经远超我们的想象，如何确保AI的安全、可控，是一个我们必须面对的重大课题。OpenAI作为AI领域的领头羊，它的一举一动都将产生深远的影响。
就在昨天Sam Altman还更新了一篇博客，博客中他说OpenAI已经知道了如何实现AGI。OpenAI的目标已经转向真正意义上的超级智能，OpenAI内部可能已经实现了重大突破，在这个时刻考虑安全问题有其紧迫性。
--AI寒武纪
