论文作者：AJ Alvero and Courtney Peña
论文链接：https://ieeexplore.ieee.org/document/10375932
论文从社会文化理论的角度探讨了大型语言模型 (LLM) 是否具有感知能力。文章分析了 LLM 在人际关系、社会语言学和文化方面的局限性，认为它们缺乏建立和发展社会关系的能力，无法进行语言创新和适应文化变化，因此不具备感知能力。文章强调，我们应该将 LLM 视为一种有用的工具，而非即将出现的感知形式，并呼吁未来研究更多地关注 LLM 在社会文化方面的影响和应用。
1. 引言
大型语言模型（LLMs）的快速发展引发了对人工智能（AI）意识的讨论。
现有的讨论主要集中于哲学和形而上学角度，本文从社会文化理论和分析的角度进行探讨。
本文重点探讨社会文化理论中的人际关系、社会语言学和文化，以判断 LLMs 是否具有意识。
本文认为 LLMs 目前没有意识，未来也难以拥有意识，并提出了一个重新构想未来 AI 的框架，将其视为一种有用的工具，取决于其使用和构建方式。
2. 背景
社会文化理论强调人际关系的动态性，以及语言、文化和艺术等社会维度对社会过程的影响。
人类社会文化中的规则和规范不断变化，例如精英企业的招聘标准。
人际关系受到身份、环境和等级的影响，人们会根据对周围环境和人的解读来调整行为。
社会语言学强调社会身份和语言之间的联系，以及语言变异的系统性和语境适应性。
文化是社会规范和实践的集合，影响着人们的行为和对事物的解读。
科幻作品为探讨 AI 意识提供了素材，可以揭示社会趋势和权力关系。
3. 人际关系
LLMs 可以模仿人际关系的语言，但无法真正建立人际关系，因为它们需要用户的指令才能行动和回应。
LLMs 无法自主开始对话或选择话题，也无法与非语言用户或使用非训练语言的用户建立关系。
科幻作品中 AI 与人类建立关系的例子，例如电影《她》，揭示了 LLMs 在建立人际关系方面的局限性。
4. 社会语言学
LLMs 主要基于书面语言进行训练，无法理解语言的动态性和语境适应性。
LLMs 无法快速学习和适应新事物，例如网络迷因，也无法理解幽默等复杂的语言现象。
LLMs 反映了不同的语言意识形态和权力关系，例如对英语的偏爱和对其他语言的歧视。
科幻作品中 AI 机器翻译的例子，例如电影《星球大战》中的 C-3PO，揭示了 LLMs 在语言理解和翻译方面的局限性。
5. 文化
LLMs 无法做出文化选择，也无法理解和表达政治立场等文化特征。
LLMs 无法理解和参与文化的创新和发展，例如艺术创作和法律学术领域。
科幻作品中 AI 文化表达的例子，例如电影《星球大战》中的 Data 和 Lore，揭示了 LLMs 在文化理解和表达方面的局限性。
6. 讨论和结论
本文认为 LLMs 目前没有意识，未来也难以拥有意识，因为它们无法自主行动和做出选择。
本文强调了社会文化理论、日常经验和科幻作品在理解 AI 意识方面的重要性。
本文提出了“AI 社会文化”的概念，并认为未来研究需要关注 AI 与人类文化之间的关系。
本文认为，将 LLMs 视为工具而非意识实体，更能体现其社会价值。
本文呼吁未来研究探索新的 AI 发展方向，例如基于植物行为或其他知识形式的 AI。
