人类与智能体的情感共生
从Generative Agents（生成式智能体）到Multi Agents Social Experiment（多智能体社会实验），随着前沿领域对AI-Agents的持续探索，我们现在已经较为明确可以判断的趋势，智能体也是通往具身智能的关键路径之一。所以，无论是数字的、或者物理的，智能体将会无处不在，且各有不同形态。
在之前的文章与论文推荐中，我所试图呈现的Agents版图揭示了人类与Agents高度协作的发展关系，而当前智能体的一个很重要的研究方向，即多智能体在沙盒实验中的社会实验，这个研究方向事实上意味着人类对智能体所构成的社会行为的洞察，意味着智能体作为一种类人格特征的“数字生命”被加以实验洞察，然不管如何，智能体的人格特征的衍生造化，必然是智能体情感涌现的序曲。
所以，本次论文推荐，探讨了基于LLM驱动的智能体的情感关系表现，情感如何构建，以及智能体对人类的共情关系，正如著名的关于人类与AI的爱情电影——《Her》，具有独立人格特征的智能体，将于人类建立深度的情感关系，碳基生命与硅基生命的“情感羁绊”，会极大地冲击人类过去所构建的伦理道德秩序，智能体融合了人类整体价值观并通过共情系统，在与人类长期处于交互协作的关系中，人类是否会温和的走进那个良夜？
1，大型语言模型的情绪智能
论文标题：Emotional Intelligence of Large Language Models
论文地址：https://arxiv.org/pdf/2307.09042.pdf
大型语言模型（LLMs）在许多学科领域展现出了卓越的能力，主要通过语言生成、知识利用和复杂推理任务进行评估。然而，它们与人类情感和价值观的一致性，在实际应用中至关重要，但尚未得到系统评估。在这里，我们评估了LLMs的情感智能（EI），包括情感识别、解释和理解，这对于有效的沟通和社交互动是必要的。
具体而言，我们首先开发了一种新颖的心理测量评估，侧重于情感理解（EU），这是EI的核心组成部分，适用于人类和LLMs。这个测试需要在现实情景中评估复杂的情感（例如，惊讶、快乐、困惑、自豪），如在情感感受到低迷的情况下，约翰意外地取得了最高分）。通过从500多名成年人中构建的参考框架，我们测试了各种主流的LLMs。大多数LLMs的情商得分都高于平均水平，其中GPT-4的情商为117，超过了89%的人类参与者。
有趣的是，多元模式分析显示，一些LLMs显然并没有依赖人类类似的机制来实现人类水平的表现，因为它们的表征模式在质量上与人类有所不同。此外，我们还讨论了模型大小、训练方法和架构等因素对LLMs情商的影响。总之，我们的研究提供了LLMs人类特性的首次心理测量评估之一，这可能为未来发展旨在实现高智能和情感智能的LLMs投下一些光。
*LLMs（大型语言模型）的家族树。树中的每个节点表示一个LLM，其沿x轴的垂直位置表示发布时间。每个节点的大小对应LLM的参数大小。请注意，GPT-4和Claude的大小是根据公开可用的信息估计的。颜色表示EQ分数，红色表示较高的分数，蓝色表示较低的分数。请注意，白色表示模型未能进行SECEU（情感理解能力评估）。分支的颜色区分开源（浅灰色）和闭源（深灰色）模型。
2，大型语言模型中出现的人类情感知识表示并支持离散情感推断
论文标题：Human Emotion Knowledge Representation Emerges in Large Language Model and Supports Discrete Emotion Inference
论文地址：https://arxiv.org/pdf/2302.09582.pdf
语言如何支持情感推断仍然是情感科学中的一个争论话题。本研究通过操纵大型语言模型中的语言衍生的情感概念知识表示，探究了语言如何对情感推断产生因果关系的影响。使用提示技术，我们发现情感概念的14个属性由不同的人工神经元群体表示。通过操纵与这些属性相关的神经元，大多数情感推断任务的表现与随机操纵相比出现了下降。属性特定的性能下降与不同属性在人类心理空间中的重要性有关。我们的研究结果提供了支持基于语言的情感推断机制的因果证据，并凸显了情感概念知识的贡献。
意义陈述：当代情感研究指出，我们如何推断情感在很大程度上取决于我们对它的了解。虽然情感概念知识被认为是基于语言经验的，但语言特定的知识表示在多大程度上可以因果地支持情感推断仍然不清楚。幸运的是，大型语言模型（LLMs）的最新发展为验证这种假设的认知机制提供了难得的机会。本研究发现情感概念的属性足够从自然语言中派生，并且对于推断各种情感是必不可少的。我们的研究结果揭示了语言在人类情感概念化中的基本作用，并进一步暗示人类心智推断情感的机制可能依赖于语言。
3，一个思想的内在情感
论文标题：The Inner Sentiments of a Thought
论文地址：https://arxiv.org/pdf/2307.01784.pdf
基于Transformer的大规模语言模型（LLMs）能够生成高度逼真的文本。它们能够充分地表达，至少是含蓄地表示出各种情感和色彩，从明显的情感（如情感价值和唤起）到微妙的情感（如决心和钦佩）。我们首次探索了这些表示以及它们如何用于理解单个句子内部的情感运作。我们训练了从逐渐增加长度的前缀应用到LLM的隐藏表示的句子最终情感分布的分位数预测器。在证明了情感价值、决心、钦佩、焦虑和烦恼的分布预测器是良好校准的后，我们提供了使用这些预测器分析句子的示例，例如，展示了即使是普通的连接词（例如，“但是”）也可以极大地改变话语的情感轨迹。然后，我们展示了如何利用分布预测生成具有分布尾部情感的句子。我们讨论了我们的结果对思想内部运作的影响，例如对于精神障碍的影响。
4，SAPIEN：基于大型语言模型的情感虚拟代理
论文标题：SAPIEN: Affective Virtual Agents Powered by Large Language Models
论文地址：https://arxiv.org/pdf/2308.03022.pdf
在这篇演示论文中，我们介绍了SAPIEN，一个由大型语言模型驱动的高保真度虚拟代理平台，可以用13种不同的语言与用户进行开放领域的对话，并通过面部表情和语音显示情感。该平台允许用户自定义虚拟代理的个性、背景和对话前提，从而提供丰富、沉浸式的互动体验。此外，在虚拟会议结束后，用户可以选择分析对话并获得关于他们沟通技巧的实用反馈。本文概述了该平台，并讨论了这项技术在娱乐、心理健康、沟通培训、语言学习、教育、医疗保健等各个应用领域的各种应用。此外，我们还考虑了这种逼真虚拟代理表现的伦理影响以及确保负责任使用的潜在挑战。
关键词：虚拟化身、虚拟代理、情感人工智能、大型语言模型
*SAPIEN中的单轮对话流程。用户的话语被转录并发送给LLM。LLM的回复由虚拟代理说出。
5，情感画像：通过 AI 生成艺术作品赋予自我表达能力
论文标题：A Portrait of Emotion: Empowering Self-Expression through AI-Generated Art
论文地址：https://arxiv.org/pdf/2304.13324.pdf
我们调查了生成式人工智能（AI）在通过创造性表达反映作者认知过程方面的潜力和局限性。重点是AI生成的艺术作品在理解人类意图（一致性）以及根据创造力、美感、新颖性、趣味性和深度等标准视觉地呈现情感方面的能力。结果显示，基于作者情感描述的图像优先于主要事件的图像。我们还发现，过度展现特定元素或刻板印象的图像会对AI的一致性产生负面影响。我们的研究结果表明，AI可以促进创造力和情感的自我表达。我们的基于生成式AI的研究框架可以帮助设计相关领域（例如心理健康教育、治疗和咨询）的AI干预方法。
生成AI艺术并使用情感日记条目进行评估的总体流程。首先，通过主要事件和情感，将情感日记条目的摘录总结成几句话。我们还标注了大型语言模型检测到的主要情感，并通过人类评估员进行了确认。每个日记都被总结并缩短为两到三个主要事件和情感（例如，对于上面的示例，基于主要事件选择了两个句子。例如，这些主要事件是：1）“由于疫情无法去作者最喜欢的卡拉OK”，2）“希望疫情早日结束并租一个卡拉OK的房间”，主要情感是“1）沮丧”和“2）希望”）。然后，我们将这些句子转化为主要的图像描述，以生成图像集。当给出单一文本提示（人类指令）时，生成模型最初会生成三到四个样本图像（候选图像）。然后，评估员会选择最能代表主要事件和情感的最终图像，并根据评估标准进行评分。
6，多智能体系统中的社会价值取向和整体情感
论文标题：Social Value Orientation and Integral Emotions in Multi-Agent Systems
论文地址：https://arxiv.org/pdf/2305.05549.pdf
人类社会行为受个体社交偏好的影响。社交价值取向（SVO）是一个可测量的个性特征，它表明个体在做出决策时对自身和他人福祉的相对重要性。SVO和其他个体差异变量是预测人类行为和社会结果的强有力因素。然而，与情感相关的瞬时性变化会影响人类行为，这些变化仅通过个体差异难以捕捉到。整体情感是直接响应决策场景而产生的情感，已被认为与决策偏好的临时变化相关联。
在这项研究中，我们调查了在多智能体社会中通过整体情感调节社交偏好的效果。我们开发了Svoie，一种基于已建立的SVO策略以及对任务结果做出替代整体情感策略的智能体设计方法。我们在一个资源共享任务环境中进行了模拟实验，并将Svoie智能体的社会与固定SVO策略智能体的社会进行了比较。我们发现，通过整体情感调节行为的智能体社会实现了与固定SVO策略智能体社会类似的集体福祉，但不同SVO特质智能体之间的福祉不平等显著减少。我们观察到，通过允许智能体根据任务结果调整策略，智能体可以调节其行为以实现更大的社会平等。
图1：代理A和代理B之间一轮合作博弈的示意例子。（a）游戏开始时生成随机游戏板设置参数：彩色瓷砖、代理位置、目标位置和分配的资源。在合作博弈中，资源是有颜色的筹码，代理可以使用这些筹码移动到具有相同颜色的相邻瓷砖上。在这个示意设置中，两个代理都无法使用初始资源到达目标位置。（b）显示了可能的游戏结果，B同意了A的互利交换提议；A向B发送一个红色筹码，B向A发送一个黄色筹码。然后，代理使用他们的资源到达目标位置，并根据公式1获得分数。（c）另一种情况是，B选择拒绝A的提议，代理必须尽可能地使用初始资源靠近目标位置。在这种情况下，两个代理的分数都较低。
7，CAMEL: 大规模语言模型社群 “心智” 探索的沟通代理
论文标题：CAMEL: Communicative Agents for "Mind" Exploration of Large Scale Language Model Society
论文地址：https://arxiv.org/pdf/2303.17760.pdf
会话式和聊天式语言模型的快速发展已经在复杂任务解决方面取得了显著进展。然而，它们的成功在很大程度上依赖于人类输入来引导对话，这可能是具有挑战性和耗时的。本文探讨了构建可扩展技术以促进沟通代理之间的自主合作，并洞察其“认知”过程的潜力。为了解决实现自主合作的挑战，我们提出了一种名为“角色扮演”的新型沟通代理框架。我们的方法涉及使用引导提示来指导聊天代理完成任务，同时保持与人类意图的一致性。我们展示了如何利用角色扮演生成用于研究聊天代理行为和能力的对话数据，为研究会话语言模型提供了有价值的资源。我们的贡献包括引入了一种新颖的沟通代理框架，提供了一种研究多智能体系统合作行为和能力的可扩展方法，并开源了我们的库，以支持对沟通代理及其他领域的研究。
8，计算机说 “不”: 反对同情心对话人工智能的案例
论文标题：Computer says "No": The Case Against Empathetic Conversational AI
论文地址：https://briefgpt.xyz/a/2212.10983
情绪是人类认知的一个组成部分，它们不仅指导着我们对世界的理解，还影响着我们在其中的行为。因此，我们是缓解还是加剧情绪并非无关紧要。最近在对话型人工智能领域，关注点逐渐转向了对用户的情感进行共情性回应，验证和缓解他们的情绪，而这些回应却可能没有真实的基础。这种由人工智能辅助的情绪调节可能对用户和社会产生负面影响，趋向于一种单调的幸福，仅仅被定义为消除了“负面”情绪。我们认为，我们必须仔细考虑是否以及如何回应用户的情感。
9，游戏中赋能韧性的共情人工智能
论文标题：Empathetic AI for Empowering Resilience in Games
论文地址：https://arxiv.org/pdf/2302.09070.pdf
失败和适应能力是游戏中的重要方面，特别是在严肃和竞技游戏中，玩家需要经常适应和应对失败。在这种情况下，情绪调节——积极地调节情绪以应对和适应挑战性情境——变得至关重要。这是人类智能的显著方面之一，促进了心理健康和幸福感。虽然在智能辅导系统领域开发了人工情绪调节助手来帮助用户应对情绪调节，但在（严肃）视频游戏中很少将这种系统或想法纳入其中。在本文中，我们介绍了一种基于数据驱动的六阶段方法，以建立共情人工智能（EAI），该方法利用原始聊天日志数据来检测关键的情感状态，识别常见的序列和情绪调节策略，并将其泛化以使其适用于干预系统。
10，共情式对话系统：现有进展、差距和机遇综述
论文标题：Empathetic Conversational Systems: A Review of Current Advances, Gaps, and Opportunities
论文地址：https://arxiv.org/pdf/2206.05017.pdf
共情是促进相互理解和共同问题解决的重要因素。近年来，越来越多的研究已经认识到共情的益处，并开始将共情纳入对话系统中。我们将这个主题称为共情对话系统。为了确定这个主题中的关键差距和未来机会，本文使用五个维度对这个快速发展的领域进行了审查：（i）概念性共情模型和框架，（ii）采用的共情相关概念，（iii）开发的数据集和算法技术，（iv）评估策略，以及（v）最新技术方法。研究结果显示，大多数研究集中在使用EMPATHETICDIALOGUES数据集上，而文本为基础的模态主导了这个领域的研究。研究主要侧重于从用户和对话系统的消息中提取特征，对用户建模和配置方面的强调较少。值得注意的是，将情感原因、外部知识和情感匹配纳入响应生成模型中的研究取得了显著的改善效果。为了在多样化的现实世界环境中实施，我们建议未来的研究应该解决关键差距，包括在实体层面检测和验证情感、处理多模态输入、显示更微妙的共情行为，以及包含额外的对话系统特征。
在共情对话系统（ECS）研究中的操作化共情相关概念
关于情感智能体的未来商业生态
事实上，当前智能体不仅仅是一个技术工程如何实现的问题，而是一个需要回答人文主义的社会问题，当智能体表现出高度的独立人格特征以及对人类高度的情感共情时，对人类过往伦理道德秩序必然的巨大的冲击，智能体与人类的情感关系如何被接纳与理解，又或者人类设立法律禁止具有独立人格特征的情感智能体，我们不得而知。
眼下，我们正在迎来一场观念的冒险，我们需要将对未来的理解，通过叙事赋予智能体的情感意义，通过商业艺术的方式融入到工程应用之中，而不仅仅是营销推广的旧世界商业策略。商业世界的底层逻辑必然因为智能体的涌现而发生改变，这一变革的源动力比Web3叙事还要深刻。
那么，智能体重塑社会形态的叙事是什么？这是一个AI-Agents的从业者/公司都应该去长期思考的命题。
📢 AI-Agents前沿观察站
AI-Agents前沿观察站是一个围绕AI-Agents这一方向进行前沿探索与观察的社群，随着更多Agents项目开源，近期也将展开更多的商业合作，以及具有建设性的主题交流，符合以下四个身份的朋友可申请加入：
1，AI-Agents的应用开发者
2，LLM算法工程师；
3，学术研究者；
4，AI-Agents技术背景出身的创业者；（重点欢迎）
请加微信Z10850，备注：AI-Agents，（加好友请做自我介绍，不要一来就说拉群，谢谢）
📢 AGI科技叙事共学小组
AGI科技叙事共学小组，其核心命题是，人工智能崛起的时代，我们需要什么样的科技叙事？叙事创新是未来商业模式创新的核心，叙事共学小组也是在探讨从科技叙事到工程应用的跨界融合，将科技、商业与艺术实现融通的一个小组，我们将通过尽一切可能的叙事表达方式，如文章/视频/出书/播客等，积极打破一些旧世界的壁垒，所以，这是一个要去引领未来科技叙事的小组；
该小组最近在干的事情
1，举办主题沙龙：
2，一起写出版一本智能体的书
什么样的朋友适合加入：
请加微信Z10850，备注：科技叙事
