随着人工智能技术的快速发展，大模型与算法成为推动各行各业创新的重要引擎。然而，数据安全与隐私保护问题也日益凸显。为了确保 AI 技术的安全应用，国家相关部门对大模型与算法的备案提出了具体的要求。大模型和算法备案作为 AI 产品推向市场的首要门槛，已成为每个创业者必须面对的重要环节。
作为一家致力于发掘与扶持创新型企业的投资机构，顺为团队始终关注大模型领域的创新机会，并通过全面的投后服务，陪伴创业者在这条充满机遇与挑战的道路上顺势而为。在本次投后服务活动中，顺为团队邀请到了行业专家，详细为创业者们梳理了大模型与算法备案的相关内容，旨在为被投企业和行业内的创业者提供参考和帮助。
｜图片来自：DALL·E
一、大模型与算法备案的要求介绍
大模型和算法备案是企业产品和服务合法合规进入市场的关键步骤。
依据现行法规，中央网信办是大模型和算法备案法律框架的主要制定部门，负责维护意识形态安全和内容安全。现行法规要求企业在提供涉及大模型和算法的服务前，必须进行备案。
按照《生成式人工智能服务管理暂行办法》、《互联网信息服务深度合成管理规定》等法律法规的要求，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当：
·开展安全评估，在实操中安全评估被监管部门简化为生成式人工智能服务备案，即大模型备案。
·履行算法备案和变更、注销备案手续，即深度合成服务算法备案。
未进行备案的企业，可能面临下架、暂停服务甚至罚款的风险。
大模型备案的范围主要包括面向公众的 To C 服务和部分 To B 服务。备案周期按批次审核通过，一般一个半月至两个月左右一批。
备案的具体要求如下：
·备案范围：主要针对具有舆论属性和社会动员能力的 To C 服务。To B 服务如果仅提供 API 或私有化部署，当前则无需备案。
·材料提交：企业需要提交备案表、安全评估报告、服务协议、标注规则、关键词库等。
·安全测试：监管部门会对提交的模型进行安全测试，测试内容包括敏感词检测、涉政内容的生成等。只有通过安全测试，模型才能最终通过备案。
算法备案则相对简单，主要包括形式上的材料审查，无需实质的安全测试。备案周期按批次公布，一般两个月左右公布一批。
具体流程如下：
·系统使用：企业通过互联网信息服务算法备案系统在线提交主体信息、算法信息以及产品功能应用的信息。
·材料撰写：企业需撰写算法安全自评估报告，内容包括算法数据、滥用风险、标识机制等。
二、企业的备案实践情况
大模型厂商根据其提供的服务类型（To C 或 To B）需遵循不同的备案要求：
·To C 服务（具有舆论属性和社会动员能力）：需进行大模型备案，提交完整的材料并通过安全测试。
·To B 服务：如果仅提供 API 或私有化部署，当前无需进行大模型备案，但在商业合作中，通过备案可以提高竞争力。
AI 应用厂商根据其应用领域和服务类型有不同的备案要求：
·通用领域应用厂商：需要进行大模型备案或算法备案，具体取决于其是否使用自研模型或调用已备案的 API。
·垂类领域应用厂商：如果使用第三方已备案的 API，只需进行登记即可，流程相对简化。
使用开源模型的企业需特别注意以下几点：
·开源模型选择：建议使用国内开源模型，海外模型可能会面临安全性审核的挑战。
·安全性验证：企业需通过优化训练和安全策略确保开源模型的安全性，并在备案过程中向监管部门详细解释。
三、应对备案的具体要点
企业在进行大模型备案时需注意以下几点：
·材料撰写：详实填写备案表、安全评估报告等材料，确保内容详尽、字数充足。
·安全检测：包括模型本身的安全策略和系统层的安全建设，如关键词表的制定和管理。
·测试题类型：监管部门会测试模型的涉政内容生成、假扮身份的回复等，企业需做好相应准备。
算法备案主要集中在系统使用和材料撰写上：
·系统使用：通过线上系统填报主体信息和算法信息，确保信息准确、全面。
·材料撰写：撰写详细的算法安全自评估报告，包括算法选择、归类以及风险防范措施。
四、备案后的常态化治理
备案后，企业需建立健全的内容监控和管理策略：
·关键词分级：制定和更新关键词列表，确保对敏感内容的及时拦截。
·内容撤回策略：设立内容撤回机制，对违规内容进行快速处理。
为了维持平台的健康运行，企业应制定详细的账号运营策略：
·账号监控：定期检查用户账号的活动，防止违规行为。
·处置策略：制定账号处置方案，对违规账号进行警告、限制或封禁。
企业需提前准备好应对重要节点的策略，如节假日、重大事件期间的内容安全保障措施。
五、其他可能遇到的问题以及答疑
如果企业对备案流程不明确，建议通过属地网信办或行业协会获取指导。备案流程各地可能略有不同，但大致流程相似，企业可以通过网络和电话联系当地网信办，获取具体指导。
如果企业在安全测试中未通过，需及时调整模型安全策略，并重新提交备案。企业应密切关注安全测试的具体要求，并在首次提交材料前尽可能完善相关安全措施。
在商业合作中，某些合作方可能会要求企业完成备案，以确保其服务和产品的合法合规性。提前与合作方沟通备案事宜，确保合作顺利进行。
对于使用开源模型的企业，尤其是采用海外开源模型的企业，备案时可能会面临更高的安全性审核要求。建议企业在选择开源模型时，优先考虑国内模型，并在使用开源模型时，实施严格的安全策略，以确保合规。
通过备案并不意味着一劳永逸。企业需在日常运营中保持合规，定期更新安全措施和监控策略，以应对不断变化的监管要求和技术环境。
大模型与算法备案是中国 AI 创业者必须跨越的重要门槛。通过了解和遵循相关法规和要求，企业不仅能确保其产品和服务的合法合规性，还能在激烈的市场竞争中脱颖而出。合规不仅是对法律的遵守，更是对用户和合作伙伴的承诺，能够为企业带来长远的信任和发展机遇。
希望本文能为 AI 创业者提供清晰的指引，助力企业在快速发展的 AI 行业中取得成功。
