10月24日消息，Google宣布推出名为SynthID Text的开源水印工具，旨在帮助开发人员识别人工智能生成的内容，提高人工智能编写文本的透明度。这项开源技术目前可在Hugging Face和Google Responsible GenAI Toolkit等平台上免费使用。
SynthID Text的工作能力
Google DeepMind的研究人员详细描述了SynthID Text文本水印的工作原理，该技术通过改变人工智能模型生成文本时选用词汇的概率分布，以一种秘密但可检测的方式标记文本。
这一过程不会对文本的质量和生成速度产生影响，在一次用户反馈实验中，用户对Google的Gemini大型语言模型生成的2000万条文本的反馈显示，带有水印的文本与未带水印的文本在质量上没有明显差异。
但是SynthID Text在某些方面仍存在局限性，对于较短的文本、事实性回答以及从其他语言翻译过来的内容，该工具的检测可靠性会下降。
Google承认了这些局限，但其更强调该工具的整体优势。因为SynthID Text的开源特性使它可以被广泛地应用和改进，从而提高整个行业的标准。开发者和研究人员现在可以利用这一工具来确保人工智能文本生成系统在高效的基础上更加的透明和负责。Google DeepMind的副总裁表示，他们希望其他人工智能模型开发者能够应用这一技术，并将其集成到自己的系统中。
开发水印工具的必要性
随着人工智能生成内容需求的增长，对人工智能生成内容检测方法的需求也在增加。中国等国家已经开始强制要求对人工智能生成的内容进行水印标记，美国加利福尼亚州也在考虑类似的法规。
据预测，到2026年人工智能生成的内容可能会占据在线文本的90%，这将为打击虚假信息和欺诈带来新的挑战。Google这一工具的发布响应了全球范围内对于人工智能生成内容检测方法需求增长的迫切性。
随着人工智能生成内容的增多，确保其应用的透明度和责任性变得尤为重要。Google的这一行动可能是推动人工智能水印技术成为行业标准的重要一步，为防止互联网充斥着人工智能生成的垃圾信息提供了一种可能的解决方案。
来源｜Digwatch
编译｜张羽翔
审核｜唐巧盈
END
