【虚假信息】美日合作，轮流资助，再次推出打击虚假信息研究新成果
文摘
科技
2024-07-25 20:20
北京
2024年7月8日，美国战略与国际问题研究中心（CSIS）发布《打击虚假信息：美日合作议程》（Combating Disinformation：An Agenda for U.S.-Japan Cooperation）报告。报告探讨了印度-太平洋地区的虚假信息威胁环境，研究了打击虚假信息的工具和方法，并试图制定美国和日本之间更深层次的合作议程，以应对日益严峻的虚假信息挑战。![]()
0.在CSIS闭门会议上，美日商定打击虚假信息的策略1.公众教育和媒体素养：美日欠缺在媒体素养教育方面的投入；美国通过非盈利组织、教育机构、数字调查小组提高公众媒体素养；日本通过广播公司、媒体研究所和教育媒体研究协会提高公众媒体素养①事实核查和揭穿：事实核查广泛且公正，揭穿具有战略性和针对性；北约提出揭穿真相的六大主要目标；人工智能支持的事实核查，对于有效响应至关重要
②预先揭穿：包括发布积极的预警和先发制人地驳斥虚假的叙述；预先揭穿比事实核查更有成效。预先揭穿策略存在局限性
③删除虚假叙述（内容审核）：通过算法来识别和移除、创建新帐户删除虚假叙述
④标签、透明度和风险监控：加强数字内容标签管理在全球范围内迅速发展
成功的关键：主动出击
此报告是继《美国和日本：联合打击虚假信息》报告后美日联合打击虚假信息的最新研究成果，为进一步开展实际联合打击虚假信息行动提出了策略和方法，合作议程给出了下一步可能采取的措施和步骤。
在CSIS闭门会议上，美日商定打击虚假信息的策略。全球日益增长的虚假信息威胁给美国带来了巨大的挑战。在印度-太平洋地区，日本也已经成为散布虚假信息的目标地。竞争对手试图利用虚假信息和其他形式的“信息行动”在军事冲突门槛以下的灰色地带胁迫和影响美国及其盟友。为了应对这一挑战，2024年2月，美国战略与国际问题研究中心（CSIS）举行闭门会议，该会议邀请了美国和日本的该领域专家，结合会议的研讨结果，专家和学者确定了打击虚假信息的策略，以帮助检测和缓解虚假信息操作。
美日欠缺在媒体素养教育方面的投入。教育和媒体素养旨在解决导致欺骗性言论传播造成的政治两极分化和分裂的根源性问题。虚假信息既可以影响现有的两极分化状态，也可以被现有的两极分化所影响。美国和日本在提高媒体素养和建设方面有待提高。截至2021年，美国和日本在媒体素养教育方面在全球44个国家中分别排名第15位和第16位。美国通过非盈利组织、教育机构、数字调查小组提高公众媒体素养。在美国，目前还没有全国性的举措培养美国人批判性地思考错误和虚假信息。在采取区域性措施方面取得了一些进展。非营利组织“现在就进行媒体扫盲”（Media Literacy Now）报告了在州一级取得的进展，其中19个州通过了立法，为小学和职业发展计划中的媒体素养教育提供了资金或授权；“美国信息、技术和公共生活中心”为美国的专业虚假信息研究人员或高等教育机构开发了一个可免费获取的教学大纲，明确阐述了社会不平等和权力结构如何塑造虚假信息；数字调查小组还与谷歌合作开发了公民在线推理免费网站，提供了对抗信息操作的课程和研究。但与澳大利亚、比利时、加拿大、芬兰和新加坡等其他国家的全国协同性措施相比，美国开展的工作还远远不够。日本通过广播公司、媒体研究所和教育媒体研究协会提高公众媒体素养。日本同样也缺乏全面的全国性努力来促进媒体和信息素养。与美国一样，日本也有一些应对这一挑战的局域性努力。例如，日本广播公司(NHK)推出了向小学和中学学生教授媒体素养的在线资源；SmartNews媒体研究所制作了类似的资源；日本教育媒体研究协会已开始将媒体素养主题纳入其教育工作者年度会议。但与“欧洲国际防务与安全中心”为意见领袖提供的定期防务课程等举措相比，日本所做的工作也远远不够。人工智能和其他新兴技术在处理信息操作方面是一把双刃剑“深度伪造”和其他形式的合成内容可用来放大虚假叙事，但也可以在持续的反虚假信息斗争中发挥关键作用，提供各种工具和能力来识别、跟踪和打击欺骗性内容。
防御性人工智能系统旨在检测表明协同虚假信息努力的行为模式，有助于早期识别和减轻虚假叙述。
人工智能跟踪机制。Overwatch和Google等平台部署的人工智能跟踪机制可以监控在线活动，以识别可疑行为和内容。
叙事识别和监测工具。Inflection AI、Google Gemini和Blackbird AI等公司和平台提供了叙事识别和监测工具，可以识别文化差异，允许自动响应机制分析评论，更有效地与不同受众互动，实时做出令人信服的响应，从而从源头上打击虚假信息。
社交监测平台。此外，人工智能支持的社交监测平台可以对叙事进行分类，并从文章中提取见解，从而识别常见威胁并制定有针对性的应对措施。人工智能和其他技术可以在推进以下打击影响力行动的方法中发挥重要作用。2.1 事实核查和揭穿（Fact-Checking and Debunking）
事实核查广泛且公正，揭穿具有战略性和针对性。事实核查和揭穿方法在打击虚假信息方面发挥着至关重要的作用。事实核查通常采用广泛和公正的方法，但揭穿更具战略性和针对性，旨在针对具体的行为者或主题。北约提出揭穿真相的六大主要目标。鉴于俄罗斯长期性的威胁，欧洲盟友率先努力核查事实并揭穿虚假信息。北约战略传播卓越中心描述了揭穿真相的六个主要目标，包括坚持真理、对虚假信息的证据进行编目以及确定虚假信息的来源。记者和民间社会组织也发挥了重要作用，领导区域事实核查倡议，与政府和谷歌等私营部门实体合作。印度-太平洋地区此类组织包括日本Fact Check Initiative辟谣NPO组织、泰国Fact check Network网站、香港大学新闻与媒体研究中心Annie Lab、菲律宾Rap-pler lQ网站和印度尼西亚CekFakta组织（由22家全国及地方媒体共同成立）。人工智能支持的事实核查。人工智能支持的事实核查是指结合人工智能、人类对自动核查的验证，对于有效响应至关重要。如Factual、Check by Meedan、Logically、Full Fact和FIJ等组织都实现了用于事实核查的人工智能工具。这些工具依赖于自然语言处理和信息检索技术，如语音识别、反向图像搜索、视频取证和语义分析，以评估信息是否可能是虚假的或误导的。日本在开发事实核查生态系统方面起步较晚，部分原因是缺乏紧迫感，因为虚假信息更多地被视为美国和欧洲的问题。主流媒体相对滞后的数字化，加上日本广播公司和新闻媒体掌握着巨大的权力，减缓了事实核查工作的进展。但日本的认识和行动有所提高。2.2 预先揭穿（Prebunking）
预先揭穿包括发布积极的预警和先发制人地驳斥虚假的叙述。预先揭穿比事实核查更有成效。美国在俄乌冲突前使用解密情报信息，及时和反复发布有关俄罗斯军事集结和意图信息，限制了莫斯科预先塑造媒体环境的能力。这种策略破坏了俄罗斯以假旗行动为借口发动攻击的计划。预先揭穿比事实核查更有效，尤其是在之前被误导或特别容易受到错误和虚假信息影响的人群中。预先揭穿策略存在局限性。虚假信息挑战的规模在某种程度上限制了预揭穿策略的实用性。并不是每一个叙述都可以预先揭穿，但可以更加关注预测对手可能采用的叙述。当资源有限时，有选择地预先揭穿是解决令人关切的叙述的一种实用而有效的策略。可信度是预先揭穿成功的一个关键因素，对引用资源的可信任度的感知往往比其背后的专业知识更重要。《2020年揭穿错误信息手册》（The Debunking Handbook 2020）和《预先揭穿错误信息实用指南》（A Practical Guide to Prebunking Misinformation）等资源为成功实施预先揭穿战略提供了宝贵的见解和指导，包括有效的叙事结构和基于技术的主动和被动预先揭穿工具。2.3 删除虚假叙述（内容审核）【Removing False Narratives (Content Moderation)】
通过算法来识别和移除、创建新帐户删除虚假叙述。删除虚假内容或限制对虚假内容的访问是X等平台采用的一种策略，该平台此前已对不真实账户采取行动，删除了数万篇帖子。通过跟踪IP地址，平台可以识别此类内容的来源。通过算法来识别和移除虚假内容或不真实的账户的方法不是单独有效的，因为犯罪人经常想方设法绕过这些措施。策略还包括简单地创建新帐户，在IP地址不会引起怀疑的位置操作，或雇用当地人传播虚假信息。此外，算法如何识别和删除内容缺乏透明度，易引发用户的反弹和对民主社会审查制度的指责。由于这些挑战和财务收紧，许多公司正在严格限制或完全取消内容审核政策。但是，当与其他策略配合使用时，内容删除可以成为整体策略的有效组成部分。2.4 标签、透明度和风险监控（Labeling,Transparency,and Risk Monitoring）
加强数字内容标签管理在全球范围内迅速发展。一些科技公司正在开发数字邮票来标明人工智能生成的内容，特别是针对“深度伪造”带来的威胁。例如，内容出处和真实性联盟旨在通过发布“透明图标（icons of transparency）”来认证媒体（实际上是一种数字水印验证的内容）。透明度计划不仅限于识别人工生成的内容。谷歌早在2018年就采取措施，在YouTube上标记政府资助的内容，提醒观众注意可能会放大宣传或阴谋论的内容来源。上面列出的策略和技术具有防御性，旨在抵抗和揭穿对手的虚假信息活动。但最终成功与否将取决于将这些方法与战略信息的进攻性战略相结合，准确有效地反映美国目标、优先事项和价值观的叙述，并与盟友和伙伴密切合作。进攻性战略的核心是宣传关于美国实力和目的的积极叙事。
美国和日本已经开始协调应对虚假信息带来的日益增长的挑战。2023年12月，两国政府签署了打击外国信息操纵的合作备忘录，奠定了信息共享和能力建设的基础，是一个良好的开端，但要应对虚假信息挑战，还需做更多的工作。
美国和日本现在需要设计一个包括该地区其他重要合作伙伴的合作战略，确定美国、日本和其他印度-太平洋国家在打击虚假信息方面加强合作的途径。在印度-太平洋地区有许多潜在的双边和多边合作领域:
一是深化战略信息方面的合作。日本、美国和其他印度-太平洋地区国家应该为战略信息制定一个协调的进攻战略，旨在促进支持共同价值观和促进共同目标的叙事。这种协调一致的信息应该直接挑战对手叙事的说法。这一共同战略的基础已经存在，拜登政府的印度-太平洋战略对美国政策进行了明确表述，日本也持自由开放的印度-太平洋概念。协调一致的信息传递战略应侧重于扩大和加强这些主题，并反击对手推动的亲其言论。该项工作最好由日本外务省和美国国务院承担。
二是启动合作研究项目，分享经验教训。美国和日本应该发起一项多边研究计划。印度-太平洋地区盟友和伙伴应探索对手虚假信息战术的演变性质，如澳大利亚、韩国和菲律宾。该项工作还应该包括大学和私人研究机构。在日本、美国和韩国于2023年在戴维营达成的旨在协调打击信息操纵的协议的基础上，盟国应努力开发一个多边框架，用于信息共享和反虚假信息方面的经验教训。由澳大利亚、印度、日本和美国组成的四方安全对话是这项工作的另一个潜在场所。
三是扩大开源情报收集和分析方面的合作。开源信息的爆炸式增长，对寻求更好地了解国家安全威胁的政府来说是一个重大挑战。没有一个政府有能力收集、处理和评估有关特定主题的所有开源信息，这一挑战因区分事实、错误信息和虚假信息的必要性而变得更加严峻。美国、日本和其他合作伙伴，如澳大利亚和韩国，应建立开源情报合作伙伴关系，共享战略、评估和工具，包括利用人工智能的技术方法。
四是协调预揭穿。美国、日本和其他合作伙伴应该共同努力，预先揭穿对手的叙事，应该做更多的工作，既预测对手可能推动的叙事，又破坏反映对手全球角色偏见的现有信息。协调发布有关对手在南海的行为等预期问题的信息，是反击对手言论的有效手段。
五是支持第三国的教育和培训。事实核查机构已经开展了一些合作，展示了在数字时代建立联系和汇集资源的巨大潜力。这种努力包括单个国家计划，如乌克兰危机媒体中心（Ukraine Crisis Media Center）和StopFake，以及多国和区域合作，如EUvsDisinfo、北约战略传播卓越中心和balticdisinfo.eu。美国、日本和其他合作伙伴可以共同努力，支持整个印太地区的教育和媒体扫盲计划。
六是内容共享方面的合作。借鉴对手的做法，资助可信的新闻来源来对抗对手赞助的假新闻网站，可能是进一步合作的机会。美国和日本可以考虑与充斥着来自对手的虚假信息和宣传的国家达成内容共享协议。共同社和美联社是可信的通讯社服务，日本和美国可以悄悄地让印度-太平洋地区的媒体市场更广泛地获得这些服务。
2023年7月，日本东洋大学社会学系教授小笠原守弘与美国兰德公司高级社会学家克里斯托弗·鲍（Christopher Paul）在太平洋论坛联合发布由美国国务院资助的《美国和日本：联合打击虚假信息》（The United States & Japan：Allied Against Disinformation）研究报告。该报告是美国和日本专家的研究成果，是美日联合打击虚假信息在政策和文化方面的产物，为进一步开展实际联合打击虚假信息行动奠定了理论基础。此次发布的《打击虚假信息：美日合作议程》报告是由美国和日本专家在日本政府资助下开展的研究，是继《美国和日本：联合打击虚假信息》报告后美日联合打击虚假信息的最新研究成果，为进一步开展实际联合打击虚假信息行动提出了策略和方法，合作议程给出了下一步可能采取的措施和步骤。这两个报告针对中、俄意味十足。后续可能会由美国和日本政府轮流每个年度资助发布相应的研究报告，值得持续跟踪，深入了解美国和日本的认知战研究动向。
参考文献：
https://www.csis.org/analysis/combating-disinformation
（全文完）
Build a community
Share the future in cyberspace
