英美欧盟签署全球首个人工智能法律公约 全球AI监管进程逐渐加快

百科   2024-09-19 19:21   河南  






点击蓝字,关注我们








9月5日,美国、英国、欧盟和其他几个国家在立陶宛首都维尔纽斯正式签署了全球首个具有法律约束力的国际人工智能条约(简称《公约》),这是国际社会在AI监管方面的重要里程碑,标志着人工智能全球监管的重要进展,也为AI技术的负责任发展和应用奠定了坚实的法律基础。


该条约由57个国家共同协商,旨在解决AI带来的风险,推动负责任的创新,同时确保人权得到有效保护。




作为第一份具有法律约束力的国际AI条约,此次美欧英主导签署的《公约》意在基于共同价值观搭建起AI治理“统一战线”,以应对可预见的未来AI伴生的技术危机和伦理风险。


《公约》总则写道“本公约的规定旨在确保人工智能系统生命周期内的活动完全符合人权、民主和法治”,并鼓励各国密切关注AI对人类健康和环境、就业和劳动等社会经济方面的风险与影响。


此外,《公约》要求签署国对AI造成的任何有害以及歧视性后果负责,从而在合作伙伴间搭建起覆盖广泛、密切联动的安全保障体系。从内容上看,作为具有广泛约束性法律条约,

《公约》篇幅不长,重点阐明AI应用领域的重大原则性问题。包括保护人权、公共 部门和民主程序、个人隐私和自主权益;提升国际社会识别和阻止AI风险的能力;树立技术应用的广泛性原则;对那些具有潜在风险的AI系统进行管控,保证监管机构及时得到信息响应,并告知受波及群体,还要让波及群体能向政府机构有效申诉、维护权益。


在包护公众及其数据、人权、民主和法治方面规定了诸多条款:


①缔约国应适当使用数据,避免使AI系统注入歧视观念,防范AI传播错误信息或使用可能损害决策的偏见数据,确保个人隐私权和个人自主权得到保护;


②缔约国应采取实际措施,来防止AI对公共机构的完整性、独立性和有效性造成干扰③缔约国应承担监管人工智能的特定风险、保护其公民免受潜在伤害并确保其安全使用的责任,确保法治进程不受影响。这些条款将确保各国监测其发展,并确保任何技术都在严格的参数范围内进行管理。


此外,《公约》还承诺缔约国会采取行动,共同打击超出这些参数范围的非法活动,解决当下社会公众对于AI模型被滥用的广泛担忧。从适用场景上看,《公约》区分了AI在公共部门和私人部门应用场景,并明确了二者的责任划分。


就公共部门而言,不仅要确保其AI系统的合法性,还必须确保这些系统不会侵犯公民的基本权利。而公共部门在涉及国家安全利益、保密阶段的科研活动、国防的AI活动则享有豁免,可不受《公约》约束。


在私人部门,任何在缔约国境内开发、部署或使用人工智能产品和服务的私人实体,尤其是那些代表公共机构行事的企业,必须遵循这些国际标准。以此确保私人部门在追求技术创新的同时,不忽视对社会安全和技术伦理的维护责任。


值得注意的是,《公约》是由欧洲委员会(Council of Europe)而非欧盟委员会(European Commission)制定。与后者不同,欧洲委员会并非欧洲的行政机关,而是一个公益性质的国际组织。在AI法治建设领域,欧盟也取得了显著立法成果。


2024年3月,欧盟颁布《人工智能法案》(简称《法案》),被认为是全球首部综合性AI治理立法,在数据管理、透明度、可解释性、人类监督等方面,设置了全面的监管办法,并对AI系统进行了细化分类,根据风险等级制定了相应的监管要求。


2024年,欧盟还新设立了人工智能办公室,旨在更好推动实施《法案》。相比较而言,《公约》和《法案》各有侧重、有所不同:《公约》规定了管控AI技术风险的广泛原则,但缺乏《法案》的详细监管框架,并需要缔约方通过自主立法、行政等配套措施来具体实施《公约》的具体规定。而《法案》则规定了欧盟区市场内AI开发与运用的总体规范,且包含对违规违法行为的具体处置办法。


例如,对于AI应用领域存在违规行为的企业,欧盟将最高对其处以全球年营业额7%的罚款,由此外界存在对《公约》过于笼统的批评。


然而,欧盟《人工智能法案》仅由欧盟作为制定与发布主体,并希望通过其适用范围的广泛性以辐射更多的国家和地区,《公约》则明确向全球各国敞开大门,所以缺乏具体执行机制和问责机制也为更多国家参与缔约降低了“门槛”。


《AI公约》是全球首个专注于人工智能对人权影响的国际条约,涵盖AI系统的整个生命周期,重点解决AI系统在公共和私营部门使用中可能带来的风险。


它与欧盟上个月生效的《欧盟AI法》不同,后者主要针对欧盟内部市场的AI系统监管,而《AI公约》允许非欧盟国家也可签署和遵守。公约要求签署国对人工智能系统造成的任何有害和歧视性后果负责,要求此类系统输出尊重平等和隐私权,并要求人工智能相关权利受侵犯的受害者有法律追索权。


随着人工智能技术的迅速发展,各国正在积极寻求建立合作机制,确保技术安全性和透明度。值得注意的是,许多亚洲和中东的主要国家并未参与此次签约,但欧洲委员会表示,未来任何国家只要承诺遵守该公约规定均可加入。


尽管公约宣称“具有法律效力”,但也有批评者指出,该公约没有罚款等制裁措施,其主要通过缔约方大会(Conference of the Parties)以监督各签署国的遵守情况,这是一种相对较弱的执行方式。



关于我们:

由于备案流程的繁琐和复杂,许多企业和开发者往往感到无从下手。如果您需要算法备案的帮助,欢迎随时联系我们。


算法备案超过200个项目经验,国内算法备案第一梯队,大模型备案也有多个成功案例,欢迎沟通交流。






AI实践派
算法备案,大模型备案,数据出境,AI合规
 最新文章