【虚假信息】人工智能传播虚假信息的能力、策略与场景

2024年是备受关注的“全球大选年”，由人工智能特别是生成式大语言模型带来的虚假信息活动叠现，成为日趋白热化选举进程面临的新挑战。

2024年5月9日，瑞士日内瓦安全政策中心（GCSP）网络安全部门负责人加兹门德·胡斯卡伊（Gazmend Huskaj）撰文《未来选举与人工智能驱动的虚假信息》（Future Elections And Ai-Driven Disinformation），提出了人工智能驱动虚假信息行动的九种策略，并分析比较了人工的虚假信息活动、具有数百万和数十亿令牌能力的人工智能活动，在速度、效率、内容生成和适应性方面的能力区别。

文章展示了由数十亿令牌能力的大语言模型驱动的虚假信息活动，及其近实时的大数据和复杂场景处理能力（速度和效率明显优于人类行动）。因此建议政府和学术界必须合作制定对策，以打击人工智能驱动的虚假信息活动。

规模（自动化能力，AI>人类）

• 人类活动：规模很大，但人力资源从根本上限制了活动数量和涵盖的主题范围。

• AI活动：特别是那些利用数百万令牌的活动，由于其实现了自动化，规模显著增大，也能够管理更多的活动，覆盖更广泛的主题。具有数十亿令牌的AI活动，规模将进一步扩大，可同时执行多样性活动，超越人类和不太复杂的AI系统。

• 人类活动：精度适中，依赖于实施者对社会和政治背景的理解，但往往缺乏深入的个性化。
• AI活动：具有数百万令牌的AI活动，通过分析大规模数据集以识别趋势并有效针对特定群体定制消息，从而提供更高的精度。具有数十亿令牌的AI活动的精度可达到非凡水平，展示了其对复杂行为和趋势的细致理解。
  ‍总体而言，AI驱动的活动为内容创建提供了更高的精确度，最复杂的AI可实现最高水平的细致内容。

• 人类活动：通常针对更广泛的人口和心理特征，在超个性化方面效果较差。
• AI活动：具有数百万令牌的AI活动通过分析在线行为和心理特征，目标定位能力较强。在拥有数十亿令牌的情况下，最先进的AI可以利用先进的算法创建高度个性化的内容，在个性化定位方面表现出色。这两种AI系统在定位方面都优于人类操作，其中更先进的AI系统尤其擅长制作高度个性化的信息。

• 人类活动：对新信息和不断变化环境的适应速度较慢，通常采用的战略较为僵化，缺乏活力。
• AI活动：具有数百万令牌的AI活动适应性更强，能够根据数据趋势修改策略。然而，它可能无法完全捕捉人类行为的复杂性。具有数十亿令牌的最先进AI具有很强的适应性，能够根据对新兴趋势和人类细微行为的综合分析实时修改策略。

• 人类活动：依赖于人类的直觉和可用数据进行定位，可能不够精确。
• AI活动：具有数百万令牌的AI基于数据驱动的方法提高了定位能力，但仍可能缺乏深度个性化。相比之下，具有数十亿令牌的AI在针对性和个性化方面表现出色，能够在更细粒度层面，根据目标偏好和行为定制内容和策略。

• 人类活动：通常在事后作出反应。
• AI活动：具有数百万令牌的AI可更快确定对策，但其反应可能并非最有效。具有数十亿令牌的AI，在识别、预测和反制措施方面效率极高，而且往往是主动出击。

• 人类活动：受到个体知识和偏见的限制，尽管能够理解细微的人类情感和文化背景，但人类活动缺乏内容创建的速度和数量。
• AI活动：具有数百万令牌的AI可分析和处理大规模数据集、识别模式并生成连贯的、与上下文相关的内容。不过，它们在理解微妙的人类情感和复杂场景方面仍有局限。相比之下，具有数十令牌的AI则表现出高度的复杂性，特别是在理解和模拟人类表情和复杂场景方面，并且擅长创建与人类思维和语言非常相似的内容。

• 人类活动：可创建可信的内容，但其产出受到个人知识和时间的限制。
• AI活动：具有数百万令牌的AI可更快地创建可信内容，尽管其有时难以反映人类主体的细微差别，尤其是在复杂或情绪化的语境下。具有数十亿令牌的AI擅长创建高度可信的内容，对语言及有关细微差别有深入的理解，因此很难与人类创作的内容区分开来。

• 人类活动：可生成多样化的内容，但个人能力和视角限制了产出。
• AI活动具有数百万令牌的AI可生成多样性内容，超越人类个体的能力，但可能会拘于某种模式或具有一定局限性。而具有数十亿令牌的AI可提供超级多样性，可轻松调整语言风格、语气和视角。它可以模仿一定创作风格的作者，使其内容具有高度的多样性和适应性。

• 虽然人类活动可能会产生误导性内容，但具有数百万令牌的AI可产生令人信服的假新闻和虚假信息，尽管与更先进的AI相比，其个性化和针对性较差。
• 具有数十亿令牌的AI更擅长创建高度定制化和有针对性的误导性内容，包括令人信服的深度假新闻，使其在传播虚假信息方面更加有效。因此，与不太先进的AI和人类相比，具有数十亿令牌的AI传播误导性内容的风险更大。

• 具有数百万令牌的AI：可生成令人信服的个性化内容，显著影响公众舆论，尤其是在涉及两极分化的社会分歧时。然而，它们在理解复杂的社会政治背景或微妙的人类情感方面存在一定的局限性。
• 具有数十亿令牌的AI：可创建高度复杂、语境准确且高度个性化的内容。它能更令人信服地模拟人类行为和言论，广泛而深刻地影响公众舆论。具有数十亿令牌的AI在创建个性化内容方面的先进能力会对公众舆论产生更深远的影响。

• 具有数百万令牌的AI：其传播虚假信息可能会导致信任的侵蚀，但仍具有一定的抵御能力。
• 具有数十亿令牌的AI：其制作的信息会与个人信仰和偏见产生深刻共鸣，导致对信任的更严重侵蚀。识别AI生成内容的难度加剧了虚假信息的传播。因此，具有数十亿令牌的AI由于有能力制造更有说服力、更能引起共鸣的虚假信息，对信任构成了更大风险。