9月6日，WDTA世界数字技术院在2024 外滩大会上正式发布了国际标准《大模型供应链安全要求》。这一标准为管理大型语言模型（LLM）供应链中的安全风险提出了系统性的框架，涵盖了LLM的整个生命周期，从开发、训练到部署和维护，为每个阶段提供了详尽的指导。
文末附标准获取方式
一、标准的发布背景
人工智能系统，特别是大型语言模型（LLM）的发展，已经渗透到各行各业，包括医疗、金融、交通等多个领域。这些模型在带来创新和便利的同时，也伴随着安全风险的增加。由于LLM的开发和部署通常依赖于复杂的全球供应链，这些链条中的任何一环都可能成为安全漏洞的潜在来源。为了确保LLM的安全和稳定，CSA大中华区、蚂蚁集团、微软、谷歌、百度、NIST、Meta、PrivateAI等数十家单位的专家共同编制《大模型供应链安全要求》标准，旨在帮助各类组织识别和管理供应链中的安全风险。
二、大模型供应链安全的挑战
相比传统的供应链，大模型（LLM）供应链涉及到大量软件组件、数据资源、第三方服务和开发工具，因此面临更复杂的安全挑战。这些挑战主要包括：
供应链的复杂性：LLM的训练、部署和应用依赖于大量开源组件、第三方工具和分布式计算架构，增加了攻击面。
数据隐私和合规问题：LLM训练需要海量数据，确保数据的安全传输和存储是一个持续性的难题。
多方协作风险：在全球化供应链中，不同国家和地区的供应商可能存在不同的安全标准，增加了协作中的不确定性。
模型本身的安全性：LLM的训练、部署和应用过程中，可能面临模型被攻击、篡改或利用的风险，如对抗性攻击（adversarial attack）等。
三、标准范围
《大模型供应链安全要求》提出了大型语言模型（LLMs）的供应链安全保护框架，提出了管理LLMs开发、运营和维护（O&M）中涉及的供应链安全风险和供应活动的要求，并提供了常见的供应链安全风险和典型安全案例等相关信息。
该标准可以指导供应链中的供应商和消费者进行安全风险评估和管理供应活动，以及作为第三方组织为监管当局进行供应链安全测试和评估的基础。
四、标准具体内容介绍
《大模型供应链安全要求》的核心强调了一种多层次的安全方法，涵盖网络层、系统层、平台和应用层、模型层以及数据层。它利用了机器学习物料清单（ML-BOM）、零信任架构和持续监控与审计等关键概念，这些概念旨在确保LLM系统在其供应链中的完整性、可用性、保密性、可控性和可靠性。
WDTA 大模型供应链安全框架
01
网络层安全要求
隔离关键网络：标准要求将关键数据和系统与外部网络进行物理和逻辑隔离，减少潜在的攻击面，防止敏感信息泄露。
加密传输：为了确保数据在网络传输过程中的机密性和完整性，所有关键数据必须采用加密手段传输。
访问控制：对网络中关键信息和服务实施严格的访问控制，并保留访问日志，以便在出现问题时能够追溯。
02
系统层安全要求
操作系统安全：标准强调操作系统必须及时更新和修补，避免已知漏洞被利用。
系统软件安全：系统软件应来自可信来源，并且在部署前需要通过数字签名进行验证。
运行环境安全：通过使用虚拟化或容器技术，为每个应用创建独立的隔离环境，减少潜在的安全风险。
03
平台层和应用层安全要求
第三方组件管理：标准建议严格管理第三方组件的来源和版本，确保其安全性，并在使用前进行安全性评估和更新。
模型推理框架安全：对于部署阶段的模型推理框架，标准要求对模型文件进行安全分析，确保模型在运行时不被恶意利用。
模型应用框架安全：在模型应用阶段，应避免在代码中保存模型调用接口的密钥，对代码解释器等代码执行工具采用安全隔离技术，以及其它应用的安全要求。
分布式计算框架的权限验证：为了防止分布式计算节点被未经授权的用户访问，要求在根节点和子节点之间实施权限验证机制。
04
模型层安全要求
模型文件安全：模型文件应从可信的第三方获取，并在使用前进行完整性检查，防止文件被篡改或植入恶意代码。
模型行为监控：部署模型后，应使用监控工具对模型行为进行实时监控，及时检测和响应异常行为，避免模型被恶意攻击或滥用。
05
数据层安全要求
数据分类和分级：根据数据的重要性和敏感性进行分类，并采取相应的安全措施，确保数据在存储和传输过程中的安全性。 加密与备份：标准要求对关键数据进行加密，并定期备份，以防数据丢失或损坏，同时建立有效的灾难恢复计划。 数据合规审计：为了确保数据来源的合法性，组织需要对第三方提供的数据进行审计，并遵循相关的法律法规要求，防止数据滥用。
五、供应链安全管理的持续改进
管理制度的制定：要求企业制定全面的供应链安全管理制度，涵盖风险管理、供应商管理、人员管理、合规管理等方面，确保供应链的透明度和可控性。
供应商管理：对供应商进行严格的选择和持续评估，确保其提供的产品和服务的真实性、完整性和准确性，并防止信息在供应链中被篡改或泄露。
持续监控与改进：在供应链的各个环节实施持续的安全监控，并对其进行定期的风险评估和改进，确保供应链安全策略能够应对不断变化的威胁。
《大模型供应链安全要求》标准通过提供供应链各个层面的安全管理要求，为组织构建更加安全的AI生态系统提供了明确的指导。无论是从技术角度还是管理层面，该标准都致力于提升企业在AI技术部署中的安全性和可靠性。我们鼓励各大AI供应链利益相关者积极采用该标准，共同构建一个安全、可信、可持续的未来AI环境。
ABOUT AI STR
人工智能安全、可信和负责任AI STR
人工智能安全、可信和负责任 (Artificial Intelligence Safety, Trust, and Responsibility；AI STR） 认证由世界数字技术院 (WDTA) 基于WDTA AI STR系列标准推出的一项全球性认证项目。该认证旨在为人工智能 (AI) 应用的开发者和使用者提供一套全面的安全与合规保障，推动全球AI技术的安全和负责任应用。
AI STR认证不仅局限于技术层面的安全评估，更涵盖了伦理和法律合规性的全面审查。通过该认证，确保AI技术在实际应用中能够负责任地处理各种潜在风险，包括数据隐私的保护、算法偏见的消除以及其他可能对社会产生负面影响的问题。AI STR认证不仅为企业提供了在快速发展的AI领域中保持领先的保障，还帮助其在全球市场中建立起广泛的信任与声誉。通过推动安全、可信和负责任的AI应用，WDTA助力构建一个更加安全和公平的数字未来。
关注公众号，后台回复关键词“大模型标准”
即可获取报告完整版
ABOUT MORE
世界数字技术院（WDTA）是在日内瓦注册的国际非政府组织，支持联合国的可持续发展。WDTA秉承着速度、安全和共享的“3S”理念，致力于加快数字领域规范和标准的建立，引领数字技术的创新和研究，培养先进的数字人才，并加强国际数字合作，以促进数字经济的可持续发展，实现数字技术普惠人类，不让任何一个人掉队。
点击“阅读原文”跳转WDTA世界数字技术院官网。
