编者按
2024年9月14日，国家网信办发布《人工智能生成合成内容标识办法（征求意见稿）》（以下简称“《标识办法》”），旨在为人工智能生成合成内容标识提供强制性规范，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。作为配套文件，《网络安全技术 人工智能生成合成内容标识方法(征求意见稿)》（以下简称“《标识方法》”）同日发布。
此前，全国信安标委于2023年8月25日发布了《网络安全标准实践指南—生成式人工智能服务内容标识方法》，为网络信息服务提供者对生成合成内容添加标识提供指导。
此次发布的《标识方法》为《标识办法》第十一条规定的强制性国家标准，为网络信息服务提供者提供了更加明确、可信的标识指南。
我们对《标识办法》和《标识方法》的主要内容进行了梳理，供读者参考。
一、适用范围
《标识办法》和《标识方法》适用于开展人工智能生成合成内容标识的网络信息服务提供者。结合《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》规定，网络信息服务提供者均负有隐式标识义务，提供以下服务的网络信息服务提供者还担负显式标识的义务：
1）智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务。
2）合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务。
3）人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务。
4）沉浸式拟真场景等生成或者编辑服务。
5）其他具有生成或者显著改变信息内容功能的服务。
二、网络信息服务提供者义务
1
隐式标识义务
隐式标识分为两大类：元数据隐式标识和内容隐式标识。《标识办法》规定网络信息服务提供者必须在生成合成内容的文件元数据中添加元数据隐式标识。
1. 内容要求
文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途、版权等信息内容。元数据隐式标识应包括以下要素：
1）生成合成标签要素：内容的人工智能生成合成属性信息，包括确定、可能、疑似。
2）生成合成服务提供者要素：生成合成服务提供者的名称或编码。
3）内容制作编号要素：生成合成服务提供者对该内容的唯一编号。
4）内容传播服务提供者要素：内容传播服务提供者的名称或编码。
5）内容传播编号要素：内容传播服务提供者对该内容的唯一编号。
2. 格式要求
元数据隐式标识（包括字段、字符串等）格式应符合《标识办法》附录E的具体要求，示例如下：
此外，服务提供者也可考虑在生成合成内容中添加数字水印等其他形式的内容隐式标识（非强制性）。
2
显式标识义务
《标识办法》及《标识方法》对显示标识提供了一套完整、可执行的标识指南。具体而言：
1. 通用要素要求
显示标识必须同时包含人工智能要素和生成合成要素：
1）人工智能要素：包含“人工智能”或“AI”，表明使用人工智能技术。
2）生成合成要素：包含“生成”和/或“合成”，表明内容制作方式为生成和/或合成。
2. 不同内容标识要求
对于不同形态的生成合成内容，《标识方法》提供了更加详细的说明：
1）文本内容标识要求
① 文本内容显式标识应采用文字或角标形式。
② 在文本的起始、末尾、中间适当位置添加。
2）图片内容标识要求
① 图片内容显式标识应采用文字提示。
②显式标识应位于图片的边或角，文字高度应不低于画面最短边长度的5%。
3）音频内容标识要求
① 音频内容显式标识应采用语音标识或音频节奏标识。
② 音频节奏标识应为“短长短短”的节奏，语音标识应使用正常语速（约120~160字/分钟）。
4）视频内容标识要求
① 显式标识应采用文字提示。
② 显式标识应位于视频起始画面，可位于视频末尾和中间适当位置。
③ 显式标识应位于视频画面的边或角，显式标识的文字高度应不低于画面最短边长度的5%。
5）交互界面标识要求
① 显式标识应采用文字提示。
② 显式标识应在内容展示区域附近持续显示、在内容展示区域的背景均匀展示，或在音频、视频交互区域附近或界面顶部、底部持续显示。
此外，服务提供者提供生成合成内容下载、复制、导出等方式时，应当确保文件中含有满足要求的显式标识。
3. 显式标识义务豁免
根据《标识办法》，如同时满足以下条件时，服务提供者可向用户提供不含显式标识的生成合成内容：
1）用户请求服务提供者提供没有添加显式标识的生成合成内容。
2）在用户协议明确用户的标识义务和使用责任。
3）留存相关日志不少于六个月。
3
其他配套义务
除标识义务外，为了保证标识义务的落地执行，提高公众对于生成合成作品的知情权，《标识办法》还规定了一系列配套义务：
1）规范用户协议：网络信息服务提供者应在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。
2）法律程序中提供标识材料：网络信息服务提供者在履行算法备案、安全评估等手续时，应当按照提供生成合成内容标识相关材料，并加强标识信息共享，为防范打击相关违法犯罪活动提供支持和帮助。
三、网络信息内容传播平台服务提供者（“平台”）义务
平台应核验文件元数据中是否含有隐式标识，并采取以下措施规范生成合成内容传播活动：
1）对具有隐式标识的内容：采取适当方式在发布内容周边添加显著的提示标识，明确提醒用户该内容属于生成合成内容。
2）对不具有隐式标识但用户声明为合成的内容：采取适当方式在发布内容周边添加显著的提示标识，提醒用户该内容可能为生成合成内容。
3）对不具有隐式标识但检测到显式标识或其他生成合成痕迹的内容：采取适当方式在发布内容周边添加显著的提示标识，提醒用户该内容疑似为生成合成内容。
4）对于确为、可能和疑似生成合成的内容：应当在文件元数据中添加生成合成内容属性信息、传播平台名称或编码、内容编号等传播要素信息。
5）提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。
值得注意的是，《标识办法》及其配套文件压实了平台责任，平台应当具有技术与合规能力去排查和检测有关AI服务是否符合监管要求。结合前段时间广州互联网法院判决的“AIGC平台侵权第一案“，标识监控义务将成为未来此类平台核心义务之一。
四、用户义务
《标识办法》规定，用户向提供网络信息内容传播平台服务的服务提供者上传生成合成内容时，应当主动声明并使用平台提供的标识功能进行标识。
五、结语
随着人工智能技术的快速发展，其在内容生成和编辑领域的应用日益广泛，这对传统的内容管理提出了新的挑战。《标识办法》及其配套文件的发布，有助于维护网络信息的真实性和可信度，也为用户提供了更加透明的网络环境。但我们也注意到《标识办法》中有些义务边界仍显模糊，特别是涉及到平台审核的义务，由于关系到法律责任的承担问题，仍需要进一步厘清和明晰。
本期编辑：唐静思
