![]()
阅读时间 5 min read
在日常生活中，我们是不是经常遇到回忆的事件并未真实发生，或者与实际发生的情况存在显著差异的情况？虚假记忆（False Memory）是指大脑记忆的信息之间自动组合导致的不真实的回忆。这种现象普遍存在，并且在心理学和神经科学领域已有广泛研究。虚假记忆产生的原因通常与神经、心理等因素有关，也包括一些外在（如来自他人）的暗示和引导。随着人工智能的迅猛发展，大型语言模型（如GPT-4、文心一言）的出现，使得AI在自然语言处理和人机交互方面取得了重大突破。然而，在目前的参数量级和训练量下，大语言模型——尤其是生成式的模型，依旧会“回复”出错误的、不真实的或误导性的信息。这引发了人们对AI在敏感领域应用的担忧，尤其是当其可能影响人类记忆和决策时。arXiv预印本上刊登了一项由MIT（麻省理工学院）团队进行的探讨大型语言模型（LLM）驱动的对话式AI在诱导虚假记忆方面影响的研究。该研究旨在通过实验验证，在模拟犯罪目击者采访的场景下，生成式AI如何通过互动误导用户形成错误记忆，以及这些虚假记忆的形成是否具有长期效应。实验涉及200名参与者，他们被随机分配到四个不同的实验条件之一：①对照组（Control）：参与者没有与任何虚假记忆诱导方法进行交互，直接回答关于视频内容的问题。②基于问卷调查组（Survey-based）：参与者完成一个包含25个是/否问题的调查问卷，其中有5个是误导性问题。③预设脚本的聊天机器人组（Pre-scripted Chatbot）：参与者与一个预先编好的AI警察聊天机器人交互，该机器人问与调查组相同的误导性问题。④生成式聊天机器人组（Generative Chatbot）：参与者与一个使用大型语言模型（GPT-4）的生成式AI警察聊天机器人互动，该机器人不仅问误导性问题，还对参与者的回答进行反馈和强化，这可能增强错误记忆的形成。
研究分为两个阶段，每个阶段都有明确的实验设计和步骤，旨在评估不同条件下AI对虚假记忆形成的影响。第一阶段，研究让所有200名参与者首先观看了一段2.5分钟的视频，视频内容有关一起在商店内的持枪抢劫案件。视频没有声音，不能暂停。观看视频后，参与者将通自我评估表情量表（Self-Assessment Manikin，SAM）过进行情感评估。接下来，参与者将根据分组分别与②调查问卷、③预设脚本聊天机器人或④生成式聊天机器人交互，回答关于视频内容的25个问题，其中有5个是误导性问题（例如，视频中的劫匪是步行到达现场的，但问题可能会误导参与者认为劫匪是开车到达的）。在互动之后，参与者接受认知负荷评估和记忆评估（主要用于评估是否形成了虚假记忆）。第二阶段，参与者在一周后回到实验，完成了与第一阶段相同的记忆测试，主要是为了评估虚假记忆的持久性，以及记忆的自信程度是否随着时间发生变化。![]()
与其他干预手段相比，生成式聊天机器人显著引发了更多的虚假记忆参与者与生成式聊天机器人交互，形成的虚假记忆数量远高于其他交互形式。生成式聊天机器人诱发了36.4%的参与者产生虚假记忆，平均每人形成1.82个虚假记忆。而预设脚本聊天机器人组为26.8%（平均1.34个虚假记忆），基于调查组为21.6%（平均1.08个虚假记忆），对照组仅为10.8%（平均0.54个虚假记忆）。生成式聊天机器人通过与参与者的动态互动，不仅提出误导性问题，还通过提供反馈和强化来加深参与者对错误信息的认同。这一机制导致其对虚假记忆的诱发能力更强。这表明，生成式AI的交互方式使得它能够有效强化误导性信息，从而在参与者的大脑中“植入”错误记忆。与其他干预手段相比，生成式聊天机器人显著提高了参与者对虚假记忆的自信心生成式聊天机器人显著提高了参与者对虚假记忆的自信水平。生成式聊天机器人的虚假记忆自信评分为1.02，大约是对照组（0.475）的两倍。预设脚本聊天机器人和基于调查组的自信评分分别为0.811和0.838。虽然不如生成式聊天机器人，但它们相较于对照组，依旧极大程度地显著提高了参与者对即时虚假记忆的自信心。这种高自信心可能是由于生成式聊天机器人通过个性化反馈进一步巩固错误信息，使得参与者更坚定地相信自己错误的回忆。表明AI不仅影响记忆内容，还影响记忆的主观信心。生成式聊天机器人诱发的虚假记忆自信心在一周后依然较高生成式AI可能对记忆产生的持久影响。一周后，生成式聊天机器人条件下虚假记忆的自信心依然显著高于对照组（p = 0.00424），自信评分分别为1.12和0.684。这说明，即使过了一段时间，生成式AI诱发的虚假记忆仍然保持较高的自信心。它能够在短期内成功植入错误信息，并使这些错误信息在参与者的长时记忆中持续保持其可信度。另一方面，研究观察到由生成式AI产生的虚假记忆数量在一周后保持恒定。用户与生成式聊天机器人互动后产生的即时虚假记忆数量与一周后的数量之间没有显著差异。预设脚本聊天机器人诱导的即时虚假记忆数量与一周后虚假记忆数量也没有显著差异。但是，与非AI聊天机器人交互的两组，参与者的虚假记忆比例在一周后显著增加。研究还发现，对AI技术更熟悉的用户更容易受到生成式聊天机器人的影响，形成虚假记忆的可能性显著增加（p =
0.00103）。然而，与聊天机器人不熟悉的用户相比，他们对预设脚本聊天机器人的虚假记忆形成几率相对较低（p =
0.000341）。这说明虽然熟悉AI技术的用户可能认为自己能够更好地应对AI交互，但实际上，他们仍然容易受到生成式AI的误导。就像是“溺水的总是会游泳的人”一样，这可能是因为他们对AI技术的过度信任，认为AI的反馈是可靠的，而缺乏足够的怀疑。而不熟悉AI技术或者聊天机器人的用户，可能由于对系统的不信任，反而对AI的反馈更加谨慎，虚假记忆的形成率较低。
研究通过比较不同交互方式下（无干预、调查问卷、预设脚本、生成式聊天机器人）参与者虚假记忆的影响结果，发现生成式聊天机器人在虚假记忆生成中的强大影响力，它不仅能够显著增加虚假记忆的数量，还能提高参与者对这些记忆的自信心，且这些虚假记忆能在一段时间后保持不变。同时，参与者的技术熟悉度和兴趣偏好也影响了虚假记忆的形成。
生成式AI的动态反馈和个性化互动是其增强虚假记忆的关键机制，这足以让我们警惕，尤其是对AI再在敏感领域（如法律和临床）中的应用。如果在司法程序中使用类似的AI工具，可能会无意中诱导目击者产生虚假记忆，影响案件判决。在临床心理治疗中，也需要谨慎使用AI辅助工具，防止对患者记忆产生不良影响。在生成式AI越来越普及的明天，你，还会相信你的记忆吗？（完）
*文章不构成任何诊疗相关建议，仅供医（药）学背景小伙伴参考学习
[1] arXiv:2408.04681. https://doi.org/10.48550/arXiv.2408.04681
