7月18日，微软、OpenAI、英特尔、谷歌、英伟达、亚马逊、思科、IBM、Anthropic等十多家科技巨头在2024年阿斯彭安全论坛上联合成立安全AI联盟——CoSAI。CoSAI在国际标准和开源联盟OASIS Open的支持下运营，是一个由行业领导者、研究人员和开发人员组成的联盟，致力于增强人工智能实施的安全性。
01
联盟使命
CoSAI的使命是通过协作创新和标准化来增强人工智能开发和部署的信任和安全性。CoSAI致力于实现人工智能安全和隐私技术、专业知识和解决方案的民主化，以改善各种规模的组织中人工智能系统的开发、实施和使用。
02
联盟目标
►开发将安全性置于最前沿的方法
人工智能正在迅速改变我们的世界，并具有解决复杂问题的巨大潜力。为了确保对人工智能的信任并推动人工智能负责任的开发，开发和共享将安全性置于最前沿的方法至关重要。这些方法可以识别和缓解AI系统中的潜在漏洞，并创建从设计上就安全的系统。
►制定最佳实践和标准化方法
目前，保护人工智能以及人工智能应用程序和服务的安全是一项分散的工作。开发人员努力应对各种指南和标准，但是这些指南和标准通常不一致。即使对于最有经验的组织来说，在没有明确的最佳实践和标准化方法的情况下，评估和缓解人工智能特定和普遍的风险也是一个挑战。
►建立共享的协作生态系统
CoSAI旨在通过与公司、学术界和其他相关领域的不同利益相关者建立一个协作生态系统来应对这一挑战，这些利益相关者可以共同开发和共享用于安全人工智能开发和部署的最佳实践、工具和方法等。
03
初步的工作流程
►AI系统的软件供应链安全
将SLSA（一种软件供应链安全框架）扩展到AI模型，通过了解整个软件供应链的创建和处理方式来确定AI的安全性。
►应对不断变化的网络安全形势
开发一个防御者的框架，以确定为应对当前和潜在AI模型的攻击性网络安全能力所需的投资、技术和最佳实践。
►人工智能安全治理
开发风险和控制分类法、清单和记分卡，以指导从业者对其人工智能产品的安全性进行准备评估、管理、监控和报告。
来源｜CoSAI官网
编译｜张羽翔
审核｜尚健
