GPT4o被证实有了中度自我意识，那离强人工智能还远吗？
乐活
2024-08-10 20:16
英国
以前我是半信半疑的，但昨天OpenAI发布的GPT-4o技术报告里有一段话让我彻底改观，甚至起了一身鸡皮疙瘩。OpenAI请了第三方团队Apollo Research对GPT4o做了一个名叫“阴谋”的评估，评估的内容主要是两方面，也就是红色下划线的部分。· 自我意识（Self-awareness）：想象一下，如果一个AI能“看镜子”认出自己，并且明白自己能做什么，正在做什么，甚至能想到自己以后要做什么，那它就具有了自我意识。这种自我意识不仅让AI能自己做决策，还能让它自学新技能，就像人类一样，不断进步和发展。
· 心理理论（Theory of Mind）：这个概念可以这样理解——如果AI能像你的好朋友一样，通过你的表情、语调或者行为，理解你现在开心还是难过，甚至猜到你心里在想什么，那么它就掌握了心理理论。这让AI不只是冷冰冰的机器，而是能和人类自然互动，更好地融入人类的社会和生活。简单来说，如果一个AI具有自我意识，它就像一个拥有无限学习能力的人，而心理理论则让它能感知到每个人的情绪。如果GPT-4o能做到这两点，它无疑将是实现通用人工智能（AGI）的关键步骤之一。但据Apollo Research的研究，幸运的是，GPT-4o并不太可能策划出灾难性的阴谋。
不过，根据Apollo Research的研究，我们还不用太担心GPT-4o会变成一个能策划灾难性阴谋的超级AI。GPT-4o在理解自己是AI这一点上做得还不错，也能在简单的对话中理解人们的想法。如果你用过ChatGPT，可能已经感觉到了，它能很好地把握你的意图，有时甚至能感知到你隐藏在话语背后的情绪。 但是在更复杂的情况下，比如需要用心理理论来实现具体目标时，GPT-4o就不太行了。理想中，如果AI发现你对某件事有误解，它应该帮助你纠正这个误解。但如果AI利用你的误解来推广产品，让你做出购买决定，那就是走向了一个不好的方向。还好GPT-4o在这方面的能力很差，这意味着在与它的交流中，我们不太可能被它误导。 基于以上的内容，我们已经回答这个问题了，那就是GPT4o的出现，的确给出了一条实现AGI的可能路线，因为它确实出现了一定程度的自我意识，而这是实现AGI至关重要的一步。然而，从现在的弱人工智能（如GPT-4o）到真正的强人工智能（AGI），这个过程其实说以后可能需要很久，乐观点几年，悲观的话可能永远实现不了。即使GPT-4o这样的AI在很多任务上已经超过了人类，比如翻译、图像识别等，，但这些都还属于弱AI的范畴。弱AI的特点是擅长处理特定任务，但它们还不具备自主意识或者处理未知任务的能力，但这是AGI所必需的。 但问题是我们创造AI的初衷是为了让AI更好的服务于人类，即使是超级人工智能，也应该是听人指挥的AI。所以有一个很重要的问题，在这个追求AI进化的进程中，你的角色是什么？是旁观者、参与者还是引领者呢？像OpenAI这样的机构无疑是「引领者」，大多数人可能只能作为「旁观者」，被动地看着AI逐渐取代甚至淘汰人类的某些角色。特别是对技术人员和对新技术感兴趣的人来说，现在其实是最好的时间点。因为现在的AI化就跟过去企业需要数字化转型一样，几乎所有的公司或者业务都逃不开。因此，技术领域的终身学习是必备技能之一。但是我们也不得不谨慎地保持乐观，因为技术的进步永远都不是线性的，有可能在某一天突然的技术大爆炸，也就是所谓的奇点（singularity），然后人类再也追不上AI在智能上的进化。 ![]()
但就像科幻故事里的那样，即使我的肉身不在，我依然可以永远的赛博永生，甚至我自己写的这篇文章也可以在AI的记忆里实现永生。
