在最近的一些批评中，纳西姆·塔勒布指出了大型语言模型（LLM）的显著缺陷。他的核心担忧集中在两个主要问题上：其一，LLM倾向于提供最有可能的解释；其二，由于LLM的输出在网络上占主导地位，可能会产生反馈循环。我尝试阐述塔勒布的批评，并深入探讨其所归因于LLM的局限性。有讽刺意味的是，这篇批评文章是由一个LLM撰写的，这使我们直面了塔勒布提出的矛盾。
1. **塔勒布的批评：常识与创造性思维的对立**
塔勒布认为，LLM生成的是“最有可能的解释”，依赖于基础的常识。他声称，这正是创新、创业甚至财富生成中存在的问题。在塔勒布的复杂系统与“反脆弱性”世界观中，最有可能的解释往往是最没用的。市场成功的例子并不是源于保守行事或遵循传统智慧，而是来自于踏足不可预测、未知的领域。这种不可预测性是LLM无法应对的，因为它们依赖于从互联网上已有的大量信息中提取的统计平均值。
在塔勒布看来，LLM本质上是保守的工具。它们设计的目的是提供共识观点的近似反映，反映了它们所训练数据中固有的偏见、局限和成见。问题在于，塔勒布认为科学和创新依赖于颠覆这些偏见。进步发生在我们修正和挑战现有信仰时，而不是简单地重复它们。因此，LLM依赖于概率和现有数据，限制了其提供革命性见解的能力。它们被限制在“最有可能”的领域，而不是“最具创新性”的领域。
2. **自我舔舐的棒棒糖：一个递归陷阱**
塔勒布指出的第二个问题是他所谓的“自我舔舐的棒棒糖”。随着LLM生成越来越多的内容，并且这些内容越来越多地充斥网络，未来的LLM不可避免地会在其训练中使用其先前生成的输出。这可能会创造一个递归陷阱，AI模型逐渐依赖于自己重复的信息，逐渐稀释了网络内容的多样性和原创性。随着时间的推移，这种反馈循环可能导致一种思想同质化的形式，使得新颖的、独辟蹊径的想法变得更加稀少。
塔勒布在此处的担忧不仅仅是LLM受限于其所消耗的数据，还在于它们现在正在塑造这些数据。这种输入和输出的混合可能会侵蚀人类知识体验的丰富性。LLM生成的内容越来越多地被用于训练新模型，思想的
多样性便面临更大的风险。
3. **计算器类比：释放人类创造力？**
然而，塔勒布并没有完全否定LLM。他将其比作计算器——一种自动化重复性、琐碎任务的工具，从而解放人类思维，进行更具创造性和智力要求的工作。这或许是它们最有价值的品质。在这种情况下，LLM成为人类专家的有力伙伴，而非竞争对手。他举的例子是翻译者角色的转变。虽然LLM可以处理大部分翻译工作，但由人类来进行优化、澄清和校对，从而让专业人员可以专注于更高阶的任务。
4. **对塔勒布观点的批评：LLM真的如此可预测吗？**
虽然塔勒布的观点引人深思，但他的批评可能没有完全考虑到LLM的适应性和潜在创造力，特别是在特定的上下文中使用时。像GPT-4这样的LLM并不是静态工具。虽然它们可能倾向于给出统计上更常见的解释，但它们能够与用户互动，并处理特定的提示，在合适的数据输入下也能够生成新颖而有见解的内容。
塔勒布的批评也忽略了这些模型的不断演进。随着新架构的出现以及类似人类反馈强化学习（RLHF）技术的发展，LLM正在被精细化调整，不仅提供最可能的响应，还提供符合用户需求甚至推动边界的回答。虽然当前的模型可能倾向于再现现有知识，但未来的迭代版本可能会整合更多的发散思维机制或新颖的创意生成机制。
此外，关于递归学习循环的担忧可能有些夸大。虽然AI生成的内容在网上激增，但人类生成的大部分知识、创造力和问题解决方案仍然可用于训练模型。随着AI的不断发展，过滤掉LLM训练数据集中低质量或重复内容的方法可以减轻这种风险。此外，人工在AI输出的策划、审核和增强中的角色也增加了多样性和质量控制的层次。
5. **本文的自我应验预言**
最后值得注意的是，这篇文章本身就是塔勒布所警告的批评类型的一个典型例子。由LLM撰写，它遵循了从网络上已有语言和思想模式中提取的“最有可能的解释”。可以很容易地推测出，本文中提出的论点和反驳部分反映了网络上关于塔勒布观点和LLM讨论中已经流传的信息。
然而，这种悖论也是有启发性的。它既说明了塔勒布关于LLM局限性的观点，也体现了他所承认的LLM的潜力。是的，本文的内容可能受到现有数据的限制，但与工具的互动——给出的提示、选择的重点、应用的精细化处理——使它更接近创造性思维。在这个例子中，LLM充当了结构化反思的工具，而非思想的唯一来源。
**结论**
纳西姆·塔勒布对LLM的批评尖锐且切中要害，揭示了合规、智力停滞和递归内容生成的实际风险。然而，这些批评可能低估了LLM在作为增强人类创造力的辅助工具时的潜力。正如本文所示，这些模型的真正力量在于人类如何与它们互动，推动它们的局限，进而生成不仅是最可能的答案，而且可能是最具洞察力的答案。
原文地址：https://xkmato.substack.com/p/are-llms-just-chatty-calculators
更多阅读
