OpenAI 政变大结局，Sam Altman回归，对我们人类意味着什么？
文摘
教育
2023-11-24 08:21
加拿大
从上周五 Sam
Altman被董事会解雇，到星期二官复原职，OpenAI上演了一系列宫斗戏，不仅震荡了整个科技圈，也差点引发了OpenAI自身的灭亡。OpenAI刚刚建立了新董事会，唯一留任的是Quora 的首席执行官Adam
D'Angelo，包括Sam
Altman在内的其他人都不再担任董事一职。人工智能发展最大的隐忧是，它会不会像脱缰的野马，最后消灭人类？因此人类安全和人工智能技术发展需要平衡，商业化的驱使下的自由发展，很可能威胁人类的生存。OpenAI 政变是一场关于人工智能发展控制权的争夺，也就是说OpenAI的人工智能未来发展究竟由谁说了算，是代表投资者利益那部分人呢？还是代表人类利益的那部分人？OpenAI的董事会并不代表投资者，而是对人类安全和幸福负责。因为OpenAI和微软、谷歌、亚马逊等大型科技公司不同，2015 年成立的OpenAI，是一家以构建安全且造福于人类的人工智能为使命的非营利组织。由于快速提升其大语言模型能力需要巨额资金，OpenAI后来成立了一家营利性子公司，吸引了大量的投资者，在追求商业利润的同时，还是受到董事会的控制，以保证OpenAI始终不忘使命。但是，生成式人工智能虽然有着巨大的商业利益，实在太烧钱了，OpenAI在人类安全和技术开发的平衡上，越来越难以维持。面对财务压力，Sam
Altman希望快速推进商业化，董事会其他成员担心人工智能可能很快就会超越人类的能力，并对我们的生存构成威胁。事实上，Sam
Altman和公司董事会就开发速度和安全预防措施的充分性已经争吵了一年多。今年6月的时候，Sam Altman曾经想把Helen Toner 踢出董事会，Toner是乔治城大学的人工智能和国家安全研究员，一直警告不要过度依赖人工智能聊天机器人，称它们“还有很多我们不了解的地方”。Sam Altman的回归将让投资者、客户和员工松一口气，目前看来是技术商业化赢了。连OpenAI这样的非营利组织都在走向商业化，更别提那些营利性的科技大公司了。如此一来，人工智能的发展过程中，还有谁能对人类的未来负责？这对人类来说是好事吗？OpenAI早期投资者Vinod
Khosla 表示，OpenAI已经放弃了自己的使命，表现得更像一家大型科技公司。一些专家预测，一个可能的结果是非营利性的人工智能结束了，今后的人工智能发展就是追求利润。如果人工智能发展的未来完全掌握在营利性企业手中，他们会不会负责地开发技术？我们可以放心地将命运交给他们吗？至少从美国目前情况来看，人类面临很大风险，美国的人工智能发展掌握在大型科技公司手里，而且，美国人工智能缺乏政府监管。《纽约时报》一篇文章指出，人工智能不应该完全商业化，尤其是人工智能的基础设施---云计算应当成为公共资源。云计算不仅是人工智能的支柱，而且也是几乎所有计算的支柱，从办公应用程序到游戏和社交媒体。云计算需要政府投入和监管，例如欧洲云计划Gaia-X，由德国和法国联合倡议和牵头，欧盟27国参与，旨在建立一个真正属于欧洲的数据基础设施。但是，美国和欧洲的情况不同，美国人工智能的发展很大程度上是由商业企业主导和控制，到2023 年，美国政府预计将向核心人工智能研究投资18 亿美元，而风险投资仅在第三季度就向人工智能初创企业投资了近180 亿美元。亚马逊、Alphabet和微软这三家公司控制着全球云计算市场的三分之二，而这个市场对于构建强大的人工智能模型至关重要。OpenAI 为啥在技术商业化的道路上越走越远？主要原因就在于无力承担云计算，需要向微软寻求计算能力，如果不是因为云计算，它本可以一直在构建大型人工智能模型的非营利机构道路上前进。技术专家Bruce
Schneier认为：“将人工智能开发完全交给明显不值得信赖的硅谷公司手中的风险太高了，政府应当主导云计算，基础设施应与大型科技公司的其他业务分开，并作为一项重要的公用事业进行监管。但是，美国政府对人工智能的监管几乎不存在，人工智能正在以不可预测的方向迅速发展。政府认为现阶段不需要干涉，现有的法律法规目前已经足够，只是要求企业推出新的模型前需要进行评估和测试。因为OpenAI的ChatGPT 引发了人工智能领域的军备竞赛，这种竞争不仅仅是国内企业之间的竞争，也是国家之间人工智能的竞争，宽松和开放的政策显然有利于占据技术优势。Helen Toner在一篇论文中，呼吁美国政府要加强对人工智能的监管，批评美国政府的“更严格的规则将让别的国家领先”的观点是错误的。一个好消息是，人工智能的国际监督和合作已经启动，不久前，英国政府发布了一份名为《布莱切利宣言》的文件，该文件由包括美国和中国在内的28 个参加此次活动的国家的代表签署。文件警告了最先进的“前沿”人工智能系统所带来的危险，声称“人工智能带来的许多风险本质上是国际性的，因此最好通过国际合作来解决。我们决心以包容的方式共同努力，确保人工智能以人为本、值得信赖和负责任”。虽然该文件未能设定具体的政策目标，但是，已经确定好下一次会议的时间，来继续深入讨论。人工智能的发展是如此迅速，OpenAI推出ChatGPT 才一年左右，平衡人工智能的潜在好处和风险已经如此艰难。人工智能究竟是拯救人类还是毁灭人类？大家都在思考这个问题。欢迎加入“方也国际教育家长群”，欢迎加入在线辩论课程，请加方也微信（Education_2014）![]()
