2024年4月，一段30秒的宝莱坞明星阿米尔·汗视频在印度互联网上广泛流传。有人看到汗批评印度总理纳伦德拉·莫迪在两届任期内未履行竞选承诺，忽视了关键的经济问题。视频以莫迪的竞争对手国会的选举标志和口号结束：“投票支持正义，投票支持国会。”汗在印度的巨大人气以及视频在大选期间的发布可能导致了其爆炸性的传播。
这段视频完全是人工制作的，由人工智能生成，但相当多的选民认为它是真实的。这代表了在全国大选前夕，为误导印度公众而创建的深度虚假内容激增，这一担忧进一步加剧，因为虚假信息的来源似乎来自该国的主要政党。
虚假信息，特别是人工智能生成的deepfakes，是2024年日益严重的全球危机。今年，40场全国选举已经或计划举行，影响了世界41%的人口。所有这些地区的反情报机构和新闻媒体现在都在评估他们可以采取的措施，以减轻虚假信息对其民主基础的影响。
生成型人工智能时代的虚假信息
对虚假信息举措的担忧并不新鲜。2016年美国大选后，参议院情报委员会和美国情报界都得出结论，俄罗斯政府利用虚假信息攻击诋毁公众对民主进程的信心，并试图影响美国总统选举的结果。
然而，改变的是攻击的复杂性、复杂性和数量。通过降低成本和提高信息战举措的有效性，生成式人工智能将一个已经严重的问题恶化到了反情报机构没有做好准备的极端程度。
使用Gen AI工具，邪恶的演员不仅能够创建大多数人无法从现实中分辨出来的虚假图像、声音和视频，而且他们可以以当局难以遏制的规模做到这一点。
这场虚假信息泛滥的后果不仅是政治格局的重大转变，也是公众对媒体信任的严重削弱。美国新闻学会和美联社NORC公共事务研究中心进行的一项调查显示，42%的美国人对新闻媒体使用生成人工智能编造故事感到焦虑。此外，53%的美国人对新闻机构在选举期间报道不准确或错误信息的可能性表示严重担忧。
在某种程度上，这种信任缺失的原因可以归因于信誉较差的网站上虚假新闻的激增，这些网站缺乏正式主流媒体的严格检查或标准。这些新闻来源设法让读者相信，他们不可靠的新闻同样可信。曾经普遍值得信赖的媒体机构正被置于与业余博主或网站平等的地位，这些博主或站点对发布明显捏造的故事毫不犹豫。
为什么信任正在从机构中侵蚀
信任的崩溃源于无法确定媒体的来源——缺乏来源。来源是指一件内容的起源和历史，这个术语通常用于艺术或古董的背景。就数字内容而言，来源是指有关内容来源和历史的数据，包括位置、创建日期以及在其存在过程中所做的任何更改。
通过了解媒体的起源和历史，人们可以验证它是真实创建的还是人工生成的。知情公众中心（CIP）最近进行的一项研究强调了来源在理解媒体准确性和信任度方面的重要性。当用户接触到媒体的来源信息时，他们能够更好地校准他们对内容真实性的信任以及对其准确性的看法。对于欺骗性内容，当来源被披露时，用户能够成功地将内容识别为不太可信和不太准确。
我们如何为数字媒体添加来源
添加来源的一种方法是给内容加水印，例如C2PA（内容来源和真实性联盟）提出的方法。该方法涉及将具有唯一标识符的水印插入图像的数字内容中，然后记录该唯一标识符。然而，在确保恶意行为者不会剥离这些水印方面存在挑战（正如《麻省理工学院技术评论》所指出的那样）。
另一种方法是利用区块链——在分布式账本上记录内容和数据的哈希值，以创建任何人都可以检查的可验证日志。Numbers Protocol在其网络信任方法中使用了这种方法，允许安全地存储数据，同时保持其完整性。区块链上的内容历史记录既是不可变的，也是永久存在的。这些记录的永久可访问性确保了数据没有被篡改，并且由于区块链的公共性质，任何人都可以验证一段内容的来源，无论是个人还是组织。
案例研究：2024台湾总统选举
采用区块链来解决这些问题并不是一个遥远的未来——它已经发生了。
在2024年1月台湾总统选举之前，社会普遍关注虚假信息运动的威胁。由于台湾政局艰难，预计会发生以制造混乱和散播不信任为前提的袭击。Numbers Protocol与Starling Lab、台湾新闻媒体和记者合作，展示了如何利用去中心化技术重建媒体信任。
我们使用Capture Cam应用程序启动了一项试点研究，该应用程序允许合作媒体和民间社会团体记录的内容被标记并记录为已通过这些团体的身份验证。用户捕获的媒体在区块链上注册，生成了选举关键时刻的可追溯和安全记录。一个例子是，一名公民社会成员使用Capture Cam记录投票站的选举计票过程，以对抗普遍存在计票欺诈的虚假信息。这提供了区块链上计数过程的永久记录。
数字协议创建了一个数字来源追踪，所有元数据和资产都安全地存储在Filecoin网络上，在全球范围内分发多个副本，并不断提交加密证明，以显示数据的持续完整性。
结论
重新获得信任的关键在于让观众能够验证和核实他们新闻的真实性。在来源方面，区块链由于其不变性而优于其他水印技术，可以有效地显示内容是否被篡改。
出处通过让读者验证他们阅读的内容是真实可靠的，提供了信任的根源。他们可以肯定地知道，这是一篇由某人在特定日期和时间写的文章，而不仅仅是由人工智能生成的。这是重新获得公众对媒体的信任所需的基础，媒体是民主运作所需的可靠的第四产业。
本文由数字协议的Sofia Yan和Filecoin基金会摘要的技术通信顾问Ryan Matthew撰写。
往期回顾![]()
IPFS万佳社区
