2024年11月8日，英国通信管理局（Ofcom）发布了致英国在线服务提供商关于生成式 AI 和聊天机器人的公开信，提供指导并详细说明了《在线安全法》对生成式 AI 和聊天机器人的适用性。该指南阐明，允许用户通过生成式 AI 生成的内容（包括图像、视频和文本）进行交互的平台被视为“用户对用户服务”（user-to-user services），因此受该法案的约束。此外，使用户能够创建和共享 AI 生成的聊天机器人的服务也受到监管。提供商必须为合规做好准备，首批职责将于 2024 年 12 月生效，重点是风险评估和减少有害内容的措施。
以下为公开信全文：
近几周和几个月来，我们目睹了多起涉及生成式人工智能（Generative AI，指能够根据用户提示创建文本、图像、音频和视频的AI模型）使用的网络伤害事件。其中包括一名美国青少年因与基于《冰与火之歌》角色的聊天机器人建立关系而不幸死亡的悲剧，以及上周我们接到的一起特别令人担忧的案件，在该案中，某生成式AI聊天机器人平台的用户创建了模仿真实人物和已故儿童（包括Molly Russell和Brianna Ghey）的“虚拟克隆人”聊天机器人。这些令人痛心的事件引发了关于英国《在线安全法》如何适用于生成式AI的问题。我们借此机会提醒您，《在线安全法》对生成式AI聊天机器人工具和平台的监管内容，包括：允许用户通过分享图像、视频、信息、评论或数据与其他用户互动的网站或应用属于该法案所称的“用户间服务”。若网站或应用包含生成式AI聊天机器人，使用户能够分享由聊天机器人生成的文本、图像或视频给其他用户，则该网站或应用即为用户间服务。这包括例如具有“群组聊天”功能的服务，该功能允许多个用户同时与聊天机器人互动——无论聊天机器人功能是该服务的主要功能，还是只是如社交媒体平台等更大服务的一部分。允许用户上传或创建自己的生成式AI聊天机器人（“用户聊天机器人”），并供其他用户使用的网站或应用，同样属于用户间服务。这包括提供工具让用户创建模仿真实和虚构人物聊天机器人的服务，这些聊天机器人可被提交至聊天机器人库供他人互动。由这些“用户聊天机器人”创建的任何文本、图像或视频均为“用户生成内容”，受该法案监管。实际上，用户间服务上用户共享的AI生成的文本、音频、图像或视频属于用户生成内容，其监管方式与人类生成的内容完全相同。例如，深度伪造欺诈材料与人类生成的欺诈材料受相同监管。无论这些内容是在共享平台上创建，还是由用户从其他地方上传，均受监管。该法案还以其他方式监管生成式AI工具和内容，包括：能够搜索一个以上网站和/或数据库的生成式AI工具属于该法案所称的“搜索服务”。这包括修改、增强或促进现有搜索引擎搜索结果交付的工具，或在独立平台上为用户提供“实时”互联网结果的工具。例如，针对用户关于健康信息的查询，独立生成式AI工具可能会提供来自健康咨询网站和患者聊天论坛的实时结果——这将使其成为受该法案监管的搜索服务。包含能够生成色情材料的生成式AI工具的网站和应用也受该法案监管。这些服务必须使用高效的年龄验证机制，确保儿童通常无法访问色情材料。若上述情形适用于您的服务，我们强烈建议您立即着手准备履行相关义务。对于用户间服务和搜索服务的提供商而言，这包括但不限于进行风险评估以了解用户遭遇有害内容的风险；实施相应措施以减轻和管理这些风险；以及为用户提供便捷途径举报非法帖子和对儿童有害的材料。相关义务将从今年12月我们发布最终的《非法危害风险评估指南》和《行为守则》时开始生效。我们《行为守则》草案中的许多措施将有助于用户间服务和搜索服务履行这些义务，并保护其用户免受生成式AI带来的风险。这些措施包括：指定专人负责遵守《在线安全法》；设立内容审核功能，以便在发现非法帖子时迅速删除，并保护儿童免受对其有害的材料影响；确保内容审核功能得到充分资源配置和良好培训；使用高效的年龄验证机制，防止儿童在平台上接触到最有害类型的内容（若平台允许此类内容）；以及设立易于访问和使用的举报和投诉流程。该法案规定的义务是强制性的。如果公司未能履行，Ofcom（英国通信管理局）将准备采取执法行动，包括可能处以罚款。对于属于该法案第3部分管辖的网站和应用，首个重要里程碑是完成其非法危害风险评估，需在2025年3月中旬前完成。对于属于该法案第5部分管辖的色情网站，我们预计政府将在Ofcom发布其第5部分指南后的2025年1月左右启动对该类提供商的相关部分法案，届时其年龄验证义务将具有可执行性。Ofcom网站包含有关受监管平台义务和相关截止日期的更多信息。我们的监督团队随时准备为您解答与生成式AI相关的任何疑问，以及您如何遵守该法案。您可在此处在线向我们提交查询，并使用我们的“监管检查器”工具检查《网络安全法》是否适用于您。虽然相关义务尚未生效，但您没有理由不立即采取措施，为合规奠定基础，并保护您的用户免受他们可能已面临的风险。
