欢迎点击上方 TMT法律论坛 关注我们
专栏
GEN AI
★
导读
★
自Open AI掀起生成式人工智能的狂潮以来，大模型在各行各业的应用日益广泛，成为推动企业创新与新质生产力发展的重要力量。与此同时，合规挑战亦如影随形。在此背景下，我们推出系列“GEN AI 合规 FAQs”。
每期，我们都将聚焦企业应用Gen AI相关的核心话题，从产品备案到训练数据集构建，从电信业务许可到内容安全管理，从数据安全保护到知识产权风险应对……全方位覆盖不同合规领域及应用场景，以期帮助Gen AI应用企业妥善应对潜在的法律风险。
本期为"GEN AI 合规 FAQs"第一期“生成式人工智能产品的备案要求是什么？”
注：专栏配图均由AI生成
《生成式人工智能服务管理暂行办法》（“《办法》”）于2023年08月15日正式实施，其中第十七条规定，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》（“《算法推荐管理规定》”）履行算法备案和变更、注销备案手续。根据前述规定，生成式人工智能服务提供者需就提供生成式人工智能服务履行算法备案、大模型备案义务。本篇FAQ将对开展算法备案及大模型备案过程中的常见问题进行简要说明。
Q: 何谓“具有舆论属性或者社会动员能力的生成式人工智能服务”？
企业在判断所提供的生成式人工智能服务是否属于具有舆论属性或社会动员能力的情形时，可以参考《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》（“《评估规定》”）第二条的规定予以认定，即判断相关生成式人工智能服务是否属于以下情形：
（一）开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能；
（二）开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。
通常情况下，企业提供的生成式人工智能服务会面向不特定公众开放使用，考虑到生成式人工智能服务具有信息生成和传播的功能，从监管合规实践来看，一般会被视为具有舆论属性或社会动员能力。
Q: 何谓算法备案？
《办法》第十七条所提及的算法备案要求适用《算法推荐管理规定》第二十四条之规定，即具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统进行备案。根据《算法推荐管理规定》第二条规定，“算法推荐服务”是指应用算法推荐技术提供互联网信息服务，算法推荐技术包括生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术类型。基于前述规定，目前网信部门接受备案的算法类型主要包括：生成合成类（深度合成）、个性化推送类、排序精选类、检索过滤类、调度决策类等五类算法。根据当前“互联网信息服务算法备案系统”中公示的说明信息，“生成合成类（深度合成）算法”是指自动或辅助生成、编辑文本、图像、语音、视频等网络信息内容的算法。
考虑到企业基于生成合成类算法提供的生成式人工智能服务通常会开放给公众使用，根据监管实践，属于具有舆论属性或社会动员能力的情形。因此相关企业就其利用生成合成类算法技术提供互联网信息服务需履行算法备案义务。具体应结合实际业务模式，根据《互联网信息服务深度合成管理规定》（“《深度合成管理规定》”）第二十二条对于“深度合成服务提供者”及“深度合成服务技术支持者”的定义，判断生成式人工智能服务的义务主体身份，在认定构成服务提供者、服务技术支持者的基础上，准备相应的算法备案材料，在“互联网信息服务算法备案系统（https://beian.cac.gov.cn/#/index）”完成算法备案材料的提交。
Q: 何谓大模型备案？
在大模型上线前，监管部门会根据《办法》第十七条规定，要求生成式人工智能服务提供者履行大模型备案的法律义务。就大模型备案而言，主要应由生成式人工智能服务提供者通过属地网信办领取并完成大模型备案材料，包括《生成式人工智能（大语言模型）上线备案表》以及《生成式人工智能（大语言模型）安全评估要点》等，经由省级及中央网信办两级的材料审核及技术测试后，完成大模型备案。
其中《生成式人工智能（大语言模型）上线备案表》主要包括“基本情况”“模型研制”“服务与安全防范”“安全评估”“自愿承诺”等章节，同时要求提交“安全评估报告”“模型服务协议”“语料标注规则”“拦截关键词列表”及“评估测试题”等附件。其中“安全评估报告”的要点在《生成式人工智能（大语言模型）安全评估要点》中予以了明确，主要包括“语料安全评估”“模型安全评估”“安全措施评估”“总体结论”等内容。
Q: 通过API接口调用已备案大模型能力的生成式人工智能应用或功能是否需要进行备案？
根据各地网信办发布的生成式人工智能服务已备案（登记）信息公告，对于通过API接口或其他方式直接调用已备案大模型能力的生成式人工智能应用或功能，按照国家有关规定，可采用登记方式，允许上线提供服务。已上线的生成式人工智能应用或功能，应在显著位置或产品详情页面，公示所使用已备案（登记）生成式人工智能服务情况，注明模型名称、备案（登记）号。
而如相关企业通过API接口或其他方式直接调用已备案大模型能力的生成式人工智能以自身名义对不特定公众提供生成式人工智能服务，仍构成生成式人工智能服务提供者，需以服务提供者的身份就大模型相关的生成合成类算法履行算法备案义务。
Q: 跨国公司内部使用总部采购的生成式人工智能服务是否需要进行备案？
此种情形下，由于在境内未面向公众提供生成式人工智能服务，仅限于公司内部特定员工使用相关生成式人工智能服务，因此无需进行大模型备案或者算法备案。
与之相关的另外一个焦点问题是，境外主体提供的生成式人工智能服务是否可以在中国境内完成算法备案及大模型备案，根据目前的监管实践，要求拟备案的大模型、算法对应的服务器在中国境内布署，同时要求应由境内主体进行备案。
Q: 大模型集成平台是否需要进行生成式人工智能服务备案或者算法备案？
此种情形下，集成平台接入其他大模型服务，如被接入的大模型服务有服务主体露出界面，集成平台未以自己的名义对外提供生成式人工智能服务，集成平台无需进行算法备案和大模型备案，而应由直接的服务提供者承担相关合规义务。
相关规范
《互联网信息服务算法推荐管理规定》
第二条 在中华人民共和国境内应用算法推荐技术提供互联网信息服务（以下简称算法推荐服务），适用本规定。法律、行政法规另有规定的，依照其规定。
前款所称应用算法推荐技术，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。
第二十四条 具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。
算法推荐服务提供者的备案信息发生变更的，应当在变更之日起十个工作日内办理变更手续。
算法推荐服务提供者终止服务的，应当在终止服务之日起二十个工作日内办理注销备案手续，并作出妥善安排。
《互联网信息服务深度合成管理规定》
第二条 在中华人民共和国境内应用深度合成技术提供互联网信息服务（以下简称深度合成服务），适用本规定。法律、行政法规另有规定的，依照其规定。
第十九条 具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。
深度合成服务技术支持者应当参照前款规定履行备案和变更、注销备案手续。
完成备案的深度合成服务提供者和技术支持者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。
第二十三条 本规定中下列用语的含义：……
深度合成服务提供者，是指提供深度合成服务的组织、个人。
深度合成服务技术支持者，是指为深度合成服务提供技术支持的组织、个人。……
《生成式人工智能服务管理暂行办法》
第二条 利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务（以下称生成式人工智能服务），适用本办法。
国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。
行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。
第十七条 提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
第二十条 对来源于中华人民共和国境外向境内提供生成式人工智能服务不符合法律、行政法规和本办法规定的，国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置。
重要提示：
本专栏所有内容仅作为信息性参考，不构成法律意见，不能作为任何行动的依赖。本文中的回复意见可能是不全面的，考虑到监管的不断实践，不排除后续的进一步变化。任何的行动，请以律师的正式意见和监管的意见为准。
作者往期文章推荐
中伦解读
域外关注
本期文字：刘连炻
本期编辑：陈瑊 陈煜烺 陈瑞庭
