模仿智能并非真正的智能，尽管人工智能的模仿是一个强大的工具，但它并不智能。
技术神话中，人工智能被特别供奉在祭坛上，被虔诚地崇拜为惊人的成本降低（当人类劳动被AI取代）和消费及利润无限扩展的源泉。人工智能是技术自然进步到更大力量的完美喜悦。
共识认为，人工智能的发展将导致一个乌托邦，基本上可以无限控制自然，以及休闲和丰富的丰饶角。
如果我们拉开幕布，就会发现人工智能模仿人类智能，这种模仿如此迷人，以至于我们将其视为实际智能的证据。但模仿智能并非真正的智能，尽管人工智能的模仿是一个强大的工具，但它并不智能。
当前的生成性人工智能迭代——大型语言模型（LLMs）和机器学习——通过处理数百万人类写作和演讲的例子，并提取算法选择的最好答案来模仿我们的自然语言能力。
这些人工智能程序没有对主题的上下文或含义的理解；它们开采人类知识以提炼答案。这可能很有用，但不是智能。
人工智能程序辨别真假的能力有限，因此它们倾向于将虚构作为事实来“幻觉”。它们无法区分统计变化和致命错误，而加上预防措施的复杂性又增加了另一个失败点。
至于机器学习，人工智能可以为计算密集型问题提供合理的解决方案，例如蛋白质如何折叠，但这种蛮力计算的“黑箱”是不透明的，因此价值有限：程序并不真正理解蛋白质的折叠，就像人类理解它一样，我们也不知道程序是如何得出其解决方案的。
由于人工智能实际上不理解上下文，它仅限于其编程和算法中嵌入的选项。我们在基于AI的应用程序和机器人中看到了这些限制，它们对实际问题一无所知。例如，我们的互联网连接由于系统更新损坏而中断，但由于这种可能性没有包含在应用程序要解决的问题的宇宙中，AI应用程序/机器人尽职尽责地报告系统运行完美，尽管它已经坏了。（这是一个真实生活中的例子。）
本质上，这每一层的开采/模仿都会创造额外的失败点：无法区分事实与虚构或允许的错误率与致命错误之间的区别，预防措施的复杂性增加和黑箱的不透明性都会产生正常事故演变成系统故障的风险。
还有依赖黑箱AI操作系统所产生的系统性风险，以至于人类失去了修改或重建系统的能力。这种对AI程序的过度依赖创造了数字系统以及现在依赖数字系统的现实世界基础设施的级联失败风险。
依赖AI提供解决方案还有一个更为恶劣的结果。正如手机、社交媒体和互联网内容的上瘾性质破坏了我们集中注意力、专注和学习困难材料的能力——对儿童和青少年的学习造成了毁灭性的下降——AI提供了大量的可食用的事实片段、代码片段、计算机生成的电视广告、文章和整本书，不再需要我们对主题和过程有任何深入的了解。缺乏这种理解，我们不再有能力进行怀疑性探究或从头开始创建内容或编码。
事实上，获取这些知识的艰苦过程现在似乎没有必要：AI机器人可以快速、廉价、准确地完成所有工作。这造成了两个问题：1）当黑箱AI程序失败时，我们不再知道足够多来诊断和修复失败，或者自己完成工作，2）我们已经失去了理解，在许多情况下，没有答案是或解决方案是最后的词："答案"要求对事实、事件、过程和知识库进行解释，这些知识库本质上是模糊的。
我们不再认识到，AI对查询的回答不是一个事实本身，它是一种现实的解释，被呈现为事实，而AI解决方案只是许多途径之一，每种途径都有内在的权衡，这些权衡在将来会产生不可预见的成本和后果。
要区分解释和所谓的事实之间的区别，需要广泛的知识和深入的理解，而在失去学习困难材料的动力和能力的同时，我们也失去了甚至认识到我们失去了什么的：那些对真正知识了解甚少的人缺乏理解AI答案在适当背景下所需的基础。
最终结果就是我们变得更无能、知识更少，对我们失去能力所创造的风险视而不见，而AI程序引入了我们无法预见或阻止的系统性风险。AI降低了每个产品和系统的质量，因为模仿并不产生明确的答案、解决方案和见解，它只产生了一种明确的假象答案、解决方案和见解，我们愚蠢地将其与真正的智能混淆。
虽然新封建的公司-国家为通过大规模削减人力劳动而获得的利润欢呼，但开采/模仿人类知识是有限的。依赖AI程序消除所有致命错误本身就是一个致命错误，因此人类必须保持在决策循环中（观察、定向、决定、行动的OODA循环）。
一旦AI程序参与到生命安全或医疗流程中，每个连接到AI程序的实体都将面临无限（联合和几个）的责任，如果发生伤害或致命错误。
如果我们剥离神话和夸张，我们就只剩下另一个新封建结构：富人将由人类服务，而我们其他人将被困在质量低劣、错误频发的AI服务中，没有追索权。
AI推动者的期望是，生成性AI将从成本节约和新产品/服务中获得数万亿美元的利润。这个故事并没有映射到现实世界，在现实世界中，每个AI软件工具都很容易被复制/分发，因此保护任何稀缺价值是不可能的，这是维持定价能力以获得超额利润所需的基本动态。
除非垄断限制分发，否则每个人都拥有的软件工具的价值很小，这些工具自动生成的内容的价值也很小：数百万由AI生成的歌曲、电影、新闻稿、文章、研究论文等将压倒任何潜在的观众，将所有AI生成内容的价值降至零。
推动者声称，大规模削减工作岗位将通过AI创造的整个新产业神奇地得到抵消，呼应了从农场劳动到工厂工作的转变。但AI龙将吃掉自己的尾巴，因为它创造的工作岗位或利润很少，可以征税来支付人们不工作的费用（全民基本收入）。
对AI来说，可能最具有决定性的限制是，它将无法逆转人类最紧迫的问题。它不能清理大太平洋垃圾带，或限制每年排放的4.5亿吨大部分未回收的塑料，或逆转气候变化，或清理低地球轨道上的数千个高速碎片的危险碎片，或将高度盈利的废物是增长垃圾填埋经济改造成可持续的全球系统，或消除我所说的反进步的所有来源。它只会增加新的系统性风险、浪费和新封建剥削的来源。
原文：
https://charleshughsmith.blogspot.com/2024/08/theres-just-one-problem-ai-isnt.html
