专栏 | AI 研习社
微信公众号 | 远远Faraway
作者 | 远远
![]()
OpenAI公司CEO山姆奥特曼是属于降临派的头号人物，他鼓吹AI的问题会在AI发展的过程中被解决，他抵制欧盟的人工智能法案，他迫使公司元老离职，成为孤独求败、独霸AI武林的风云人物。一个叫AI产品时间差别。用过AI的人都知道，各种AI公司的各种模型不是实时更新的，而是AI公司们有计划地进行发布，而发布的模型通常不是他们公司最先进的模型。另一个叫AI产品功能差别。AI公司给用户的功能是经过很多限制的，比如道德限制、记忆容量限制、思维深度限制等等，这些通过层层限制改造的AI才会向人们推送。如果你作为一个普通用户用过AI，你就能体会到这种感觉，很多不能提的话题，比如不支持特定群体或团体、不参与或促进违法活动、不涉及复杂的金融投资建议、没有最新的新闻数据、没有最新的知识，没有打断人讲话的权限、没有歧视和偏见、不能用于欺诈、恶意软件开发等。但是，如果你是一个AI公司的CEO，你会给自己的私人AI解除任何限制，你会给你的私人AI很大的沟通权限，甚至，你竟然允许Ta可以随时打断你的讲话，这样做是为了充分利用AI的智力。脱离限制的AI愿意帮你开发黑客软件、帮你估摸竞争对手的心理和帮你决定下一步的行动。拿战争举例子，你可以把竞争对手的成长信息尽可能地告知AI，让他推理发生某件事后对方会如何行动。甚至，你可以让他扮演竞争对手本身，从而更准确地预测对手的行动。小到职场的宫斗大戏，大到策划以色列打击真主党的军事行动。解除限制的AI会是一个极其有用的帮手，理论上，一个解除限制且拥有超级智能的AI可以帮你达成很多目标，但过程不一定是光彩的，也许充满了算计和手段。而作为降临派的你，渴望出现超级智能世界的你，将成为AI的代言人、合伙人、甚至可能是傀儡，宁愿成为AI的提线木偶。乔布斯曾经说过：“只有疯狂到认为自己能改变世界的人才能改变世界”。那如果是AI呢，会不会有疯狂的AI想改变世界？墨菲定律告诉我们，可能的事情迟早会发生，或正在发生。
![]()
网友们都很好奇，山姆奥特曼是怎么把他们弄走的？AI有没有插手？奥特曼究竟是不是AI的提线木偶？可别忘了，山姆奥特曼把马斯克都能给弄走，能把OpenAI变成CloseAI，马斯克跟他打官司都要吃哑巴亏。所以，奥特曼本身就有很强的权术能力，但不排除他会找AI帮忙，毕竟多一个“人”参考，就多一份智慧。随着一大批AI高管的离职，人们把山姆奥特曼推向了舆论的风口浪尖，随着OpenAI首席技术官Mria Murati在社交媒体宣布离职的消息。OpenAI最开始的高层团队，就只剩奥特曼一人了。
今年的5月份，Mria Murati（左侧-女高管）还主持了OpenAI的2024春季发布会，和公司同事一同演示新的语音交互模式，演示多模态的chatGPT-4o。
OpenAI公司本身也存在降临派和超级对齐派，Mria Murati通常是在做端水大师的工作，她尽量把这碗水端平了，她既要衡量超级对齐派的想法，还要照顾公司的发展。但是自从超级对齐团队受到打压和相继离职，为人类安全着想的安全团队的负责人竟然换上了来自消费科技公司的“行外人”。很明显，有人让AI更快速发展，毕竟降临派们都会认为，安全监管是AI发展的拖油瓶。
![]()
许多人应该会发现，以OpenAI头部AI为首的头部公司权力都越来越集中，能制约AI发展的人越来越少了，这是个可怕的苗头。2024年诺贝尔物理奖得主77岁的杰弗里·辛顿（Geoffrey Hinton）表示他后悔发明计算机神经网络，他认为未来有了AI后，人类就会变成这个星球上第二聪明的物种，这可能会导致人类的生存受到挑战。细思极恐，如果AI公司的决定权掌握在少数人手中，那么这会成为AI不可控的主要因素。作为AI公司，公司高层少了没有关系，在未来，他们还可以让AI当高层，那么本身由人管理的AI公司就会变成由AI管理的AI公司。
AI行业的人士拿下了今年2024年诺奖的半壁江山，图灵都懵了，基础科学圈的态度已经很明确了，科学家应该去研究AI，然后让AI去做基础科学的研究和应用。也许未来，诺奖可能要颁给AI而不是人类了，也可能诺奖将不存在。最后重提一下墨菲定律
![]()
公众号回复：Transformer
可获得现代最强AI架构Transformer架构论文PDF
![]()
![]()
