作者丨陈际红 陈煜烺 陈瑞庭
机构丨中伦律师事务所
* 本文为威科先行首发内容，未经授权请勿转载
2024年9月14日，国家网信办发布《人工智能生成合成内容标识办法（征求意见稿）》（“《标识办法》”），同日，强制性国家标准《网络安全技术 人工智能生成合成内容标识方法（征求意见稿）》（“《标识国标》”）作为配套文件发布，旨在落实《互联网信息服务深度合成管理规定》等规定项下的标识要求。
《标识办法》《标识国标》正式稿一旦生效，将成为人工智能生成合成内容全链条企业甚至用户必须遵循的强制性规范。本文就“哪些主体开展标识适用《标识办法》”“如何开展标识”“各主体与标识相关的义务有哪些”等实务问题进行解读，以期为相关企业提前部署合规方案提供参考。
一、一类主体：哪些主体属于《办法》项下的“服务提供者”？
根据《标识办法》第2条，《标识办法》适用于符合《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者（“服务提供者”）开展人工智能生成合成内容标识。具体而言，前述规定中对于服务提供者的相关定义如下：
| 《互联网信息服务算法推荐管理规定》 | 《互联网信息服务深度合成管理规定》 | 《生成式人工智能服务管理暂行办法》 |
定义 | 算法推荐服务提供者：在中华人民共和国境内应用算法推荐技术提供互联网信息服务。 | 深度合成服务提供者：在中华人民共和国境内应用深度合成技术提供互联网信息服务的组织、个人。 | 生成式人工智能服务提供者：是指利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。 |
所应用的技术 | 算法推荐技术，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。 | 深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。 | 生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。 |
是否区分技术支持者 | 未区分 | 深度合成服务技术支持者，是指为深度合成服务提供技术支持的组织、个人。 | 未区分 |
据此，本次《标识办法》适用主体范围包含算法推荐服务提供者、深度合成服务提供者以及生成式人工智能服务提供者。实际上，生成合成内容标识要求在上述三项规定中均已提及，属于既有规定的细化，且《标识办法》将“人工智能生成合成内容”定义为利用人工智能技术制作、生成、合成的文本、图片、音频、视频等信息，前述三类服务提供者所应用的技术均有可能在人工智能生成合成过程中涉及。值得注意的是，《互联网信息服务算法推荐管理规定》项下包含多类算法推荐服务提供者，从上述技术定义及监管思路来看，《标识办法》应当适用于“生成合成类”技术的算法推荐服务提供者。
此外，《标识办法》规定了与《生成式人工智能服务管理暂行办法》类似的排除范围，即排除了“未向境内公众提供服务”的适用，据此，《互联网信息服务深度合成管理规定》项下的技术支持者，以及企业自身应用或仅面向特定对象（不构成境内公众）提供技术服务的，可能不落入《标识办法》的适用范围。
二、两类标识：如何开展显式标识和隐式标识？
《标识办法》第4条、第5条以《互联网信息服务深度合成管理规定》第17条、第16条为依据，针对前述服务提供者提出了具体的标识要求，明确人工智能生成合成内容标识包括显式标识和隐式标识两种类型。如下结合《标识办法》要求以及《标识国标》针对显式标识和隐式标识所提供的详细方法和示例，就企业如何开展显式标识和隐式标识梳理如下：
（一）显式标识
显式标识，是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可被用户明显感知到的标识，其主要用途在于提示用户当前内容由人工智能生成合成，实现方式包括内容显式标识、交互场景界面显式标识等。根据《标识办法》第4条，符合以下情形的服务提供者应当对生成合成内容添加显式标识：
1. 智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务；
2. 合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；
3. 人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务；
4. 沉浸式拟真场景等生成或者编辑服务；
5. 其他具有生成或者显著改变信息内容功能的服务。
根据《标识办法》，服务提供者提供生成合成内容下载、复制、导出等方式时，应当确保文件中含有满足要求的显式标识。在此基础上，《标识国标》提供了如下六种类型的显式标识添加方法和示例：
1. 文本内容显式标识
- 形式1-文字：应同时包含以下要素：
人工智能要素：包含“人工智能”或“AI”，表明使用人工智能技术；
生成合成要素：包含“生成”和/或“合成”，表明内容制作方式为生成和/或合成。
- 形式2-角标：应包含“AI”。
- 位置：位于文本的起始、末尾、中间适当位置中的一个或多个位置。
- 其他：字型和颜色应清晰可辨。
- 示例：
2. 图片内容显式标识
- 形式：文字提示，应同时包含人工智能和生成合成要素（同上）。
- 位置：图片的边或角。
- 其他：字型应清晰可辨，文字高度应不低于画面最短边长度的5%。
- 示例：
3. 音频内容显式标识
- 形式1-语音标识：应同时包含人工智能和生成合成要素（同上）；应使用正常语速（汉语约为120~160字/分钟）。
- 形式2-音频节奏：为“短长 短短”的节奏。“短长 短短”节奏为“AI”的摩斯码表示。
- 位置：位于音频的起始、末尾、中间适当位置中的一个或多个位置。在智能语音助手、智能客服、智能导航等音频的高频交互场景中，音频的起始位置、末尾位置是指一轮交互的起始位置和末尾位置。
- 示例：
4. 视频内容显式标识
- 形式：文字提示，应同时包含人工智能和生成合成要素（同上）。
- 位置：应位于视频起始画面，可位于视频末尾和中间适当位置；应位于视频画面的边或角。
- 其他：文字高度应不低于画面最短边长度的5%。
- 示例：
5. 虚拟场景显式标识
根据《标识办法》第4条，在呈现虚拟场景时，应当在起始画面的适当位置添加显著的提示标识，可在虚拟场景持续服务过程中的适当位置添加显著的提示标识。《标识国标》提出，对于虚拟场景，应参照图片、视频类生成合成内容，在切入虚拟场景时添加显式标识。
6. 交互场景界面显式标识
- 形式：文字提示，应同时包含人工智能和生成合成要素（同上）。
- 内容周边显式标识应采取以下一种或多种方式：
在内容展示区域附近持续显示提示文字。
在内容展示区域的背景均匀添加包含提示文字的显式水印标识。
- 非内容周边显式标识应采取以下一种或多种方式：
音频、视频交互区域附近持续显示提示文字。
交互场景界面顶部、底部等适当位置持续显示提示文字。
- 其他：字型和颜色应清晰可辨。
- 示例：
（二）隐式标识
隐式标识是指，采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。用户不能直接感知、不影响用户正常使用，但通过技术手段能从内容中提取，其主要用途在于记录生成合成内容信息。
不同于显式标识仅为特定情形下的要求，根据《标识办法》第5条以及《互联网信息服务深度合成管理规定》第16条，服务提供者均需对生成合成内容添加隐式标识。隐式标识的实现方式包括内容隐式标识、元数据隐式标识等。
− 内容隐式标识：是指在人工智能生成合成内容数据中添加的数字水印等标识，《标识办法》第5条鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。
− 元数据隐式标识：文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途、版权等信息内容。根据《标识国标》，元数据隐式标识应包括以下要素，包括：1）生成合成标签要素，即内容的人工智能生成合成属性信息，包括确定、可能、疑似；2）制作要素信息，包括生成合成服务提供者要素、内容制作编号要素；3）传播要素信息，包括内容传播服务提供者要素、内容传播编号要素。《标识国标》附录E提出了元数据隐式标识应满足的格式要求，并提出确定、可能、疑似为人工智能生成合成的内容文件中，应仅保留一份元数据隐式标识。《标识国标》就元数据隐式标识提供了如下示例：
图片内容：
音频内容：
视频内容：
三、四类义务：各方主体的标识相关义务
《标识办法》除对服务提供者开展标识设定具体要求外，还针对人工智能生成合成内容全链条相关企业以及用户设定了一系列义务，全方位多层次加压，最大程度确保标识义务得到落实，推动人工智能生成合成内容的规范传播和健康发展。
（一）网络平台服务提供者：从“制作”到“传播”的“双保险”
网络平台通常是信息快速传播、舆论属性极强的高地，尤其大型网络平台，历来是监管部门的重点关注对象。《标识办法》第6条首先即针对“提供网络信息内容传播平台服务的服务提供者”（“网络平台服务提供者”）规定了三类义务：
第一类：核验、检测以及添加标识的提醒义务
《标识办法》第6条第（一）（二）（三）项设定了网络平台服务提供者的核验、检测以及添加显著标识的提醒义务，具体包括：
− 应当核验文件元数据中是否含有隐式标识，对于含有隐式标识的，应当采取适当方式在发布内容周边添加显著的提示标识，明确提醒用户该内容属于生成合成内容；
− 文件元数据中未核验到隐式标识，但用户声明为生成合成内容的，应当采取适当方式在发布内容周边添加显著的提示标识，提醒用户该内容可能为生成合成内容；
− 文件元数据中未核验到隐式标识，用户也未声明为生成合成内容，但提供网络信息内容传播平台服务的服务提供者检测到显式标识或其他生成合成痕迹的，可识别为疑似生成合成内容，应当采取适当方式在发布内容周边添加显著的提示标识，提醒用户该内容疑似为生成合成内容。
第二类：文件元数据添加信息的义务
除上述经核验、用户声明和检测后添加显著标识的提醒义务外，《标识办法》第6条第（四）项还进一步要求对于“确为、可能和疑似生成合成内容的”，网络平台服务提供者应在文件元数据中添加“生成合成内容属性信息、传播平台名称或编码、内容编号等传播要素信息”，实质上进一步为网络平台服务提供者设定了添加隐式标识的义务。
可以看出，《标识办法》第4-6条对“服务提供者”到“网络平台服务提供者”，从“制作”到“传播”施加了“双保险”，不仅要求溯源可查，还要求做到全链条追踪，体现主管部门对于人工智能生成内容严格审慎的监管态势。
第三类：提供标识功能、提醒用户发布声明的义务
为落实上述第一类义务，引入平台业态核心角色——用户参与人工智能生成内容治理机制，《标识办法》第6条第（五）项要求平台服务提供者“提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。”
实践中，目前抖音等平台已提供了此等标识功能，并在用户上传相关内容时允许用户通过设置发布声明，但此等设置界面可能还不足以达到《标识办法》要求的“提醒用户”的效果，未来办法正式生效后，平台企业或将面临相关交互界面的调整。
（二）互联网应用程序分发平台：上线前的核验义务
现阶段，App、小程序等应用程序系目前提供生成合成内容相关服务的主要形式，《标识办法》第7条据此延续App、小程序等应用程序上线的监管治理实践，要求互联网应用程序分发平台在“应用程序上架或上线审核时，应当核验服务提供者是否按要求提供生成合成内容标识功能”。
值得注意的是，《标识办法》仅在第6条为网络平台服务提供者设定了“提供标识功能”的要求，而未对（提供生成合成内容服务的）服务提供者本身直接提出此等要求。关于服务提供者本身的标识功能要求，则见于《互联网信息服务深度合成管理规定》第17条第二款[1]，但也仅针对提供特定类型深度合成服务之外的服务的，才要求提供显著标识功能。
据此，上述规定是否意味着分发平台仅就平台企业以及特定类型深度合成服务提供者具有核验义务，亦或《标识办法》正式稿中是否会进一步就（提供生成合成内容服务的）服务提供者增加“提供标识功能”的义务，值得观察。
（三）服务提供者：与开展标识的相关义务
《标识办法》除对服务提供者开展显式标识和隐式标识提出要求外，还要求服务提供者遵循如下义务：
− 用户服务协议说明及提示要求：《标识办法》第8条要求服务提供者在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。
− 满足特定条件可提供不含显式标识的生成合成内容：《标识办法》第9条明确，在满足“用户需要”且“通过用户协议明确用户的标识义务和使用责任”的特定条件下，可提供不含显式标识的生成合成内容，并留存相关日志不少于六个月。鉴于《互联网信息服务深度合成管理规定》第17条规定“应当添加显式标识”的情形系“法定义务”，《标识办法》第9条实际上是为服务提供者提供了豁免，但此等通过用户协议确立的“约定义务”是否可以实现与“法定义务”等同的监管效果，服务提供者应在用户协议中规定哪些条款才视为明确了“标识义务和使用责任”——例如，是仅要求用户在上传至网络平台前才需添加标识，还是要求用户凡是公开使用均需添加标识（见下第（四）部分分析，现行规定仅对用户施加了前者要求），将成为服务提供者需解决的问题。
− 履行算法备案、安全评估手续时提供标识相关材料的义务：《标识办法》第12条衔接现有算法备案、安全评估等监管程序，要求服务提供者履行前述程序性义务时应提供生成合成内容标识相关材料。考虑到算法备案、安全评估等系相关服务上线前的法定程序性要求，该条实际上是为监管部门提供监管抓手，将标识义务履行情况的审查程序合并至备案、安全评估程序，以确保标识义务的监管落地。
（四）用户：声明及标识义务
《标识办法》第10条第一款要求，用户在向网络平台服务提供者上传生成合成内容时，应当主动声明并使用平台提供的标识功能进行标识。可能引发的潜在问题是，根据该条，用户标识义务仅限于上传至网络平台这一个场景，针对其他场景，例如用户上传生成合成内容至（不构成平台的）自建网站，同样可能存在造成公众混淆、误认的风险，但从规范层面，此等情形尚不落入《标识办法》第10条第一款的规制范畴。
最后，除上述义务外，《标识办法》第10条第二款重申了《互联网信息服务深度合成管理规定》第18条的规定，要求任何组织和个人不得恶意删除、篡改、伪造、隐匿生成合成内容标识，不得为他人实施上述恶意行为提供工具或服务，不得通过不正当标识手段损害他人合法权益。
四、法律后果
《标识办法》第13条未直接设定违反该办法的法律责任，而是通过指引性规定，明确“违反本办法规定，未对生成合成内容进行标识造成严重后果的，由网信等有关主管部门按照有关法律、行政法规、部门规章的规定予以处罚”。
值得注意，如前述分析，《标识办法》本身为各类主体（不限于应开展标识的服务提供者）设定了不同层面的义务，但就违法后果仅强调了“未对生成合成内容进行标识造成严重后果”这一种情形，未来正式稿中是否会进一步补充其他主体义务的违法后果，有待观察，否则主管部门将可能缺失对诸如“互联网应用程序分发平台是否已履行核验义务”开展执法的法律依据。
就《标识办法》第13条规定情形所指引的法律责任，主要可参照《网络安全法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等规定。例如，根据《互联网信息服务算法推荐管理规定》第9条第一款及第31条，可能涉及的法律后果包括警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停信息更新，并处一万元以上十万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。
脚注：
Footpoints：
作者简介
陈际红
中伦律师事务所 北京办公室 合伙人
chenjihong@zhonglun.com
业务领域：网络安全和数据保护，知识产权权利保护，反垄断和竞争法
行业领域：金融创新和金融科技，电信和互联网，信息和智能技术
陈际红律师为中伦律师事务所合伙人，是国内网络安全与数据合规业务的开拓者之一，为众多的国际和国内大型企业提供了优秀的法律服务。陈律师入选国家知识产权专家库专家，担任的社会职务还包括：全国律师协会网络与高新技术委员会副主任、中国法学会网络与信息法学研究会常务理事、全球隐私联盟Privacy-Rules亚太区co-Chairman、中国计算机行业协会数据安全专业委员会委员、国家市场监管总局发展研究中心新零售和直播电商专家委员会委员和International Cybersecurity Law Review (ICLR)编委会委员等。同时，陈律师作为专家，长期参与了多部与网络安全、数据保护、知识产权相关的立法研讨和咨询工作。新华社、人民日报等媒体曾对他的研究与律师执业做过深入报道。
陈煜烺
中伦律师事务所 北京办公室 知识产权部
陈瑞庭
中伦律师事务所 北京办公室 知识产权部
特别声明
以上所刊登的文章仅代表作者本人观点，不代表威科中国出具的任何形式之法律意见或建议。
如需转载或引用该等文章的任何内容，请私信沟通授权事宜，并于转载时在文章开头处注明来源于公众号“威科先行”及作者姓名。未经书面授权，不得转载或使用该等文章中的任何内容，含图片、影像等视听资料。如您有意就相关议题进一步交流或探讨，欢迎与我们联系。
集合法规案例查询、更新信息接收、实务问题解决，为您提供全方位实务资源支持，助力您洞悉网络安全精髓，自信决策，合规经营。
申请试用
威科先行：
网络安全合规模块
长按并识别左侧二维码
WHEN YOU HAVE TO BE RIGHT.
想了解更多关于「威科先行」的产品和信息
欢迎长按下方图片，添加「小威」为微信好友
