OpenAI等116家企业签署欧盟《人工智能公约》

文摘   2024-09-26 11:27   上海  

点击蓝字关注并设为星标

不错过人工智能最新动态









当地时间9月25日,欧盟委员会公布了《人工智能公约》(AI Pact)的首批100多家签署方名单,该协议旨在促使企业就如何处理和部署人工智能发布“自愿承诺”。





01

填补监管真空


《人工智能公约》是欧盟推动AI领域负责任创新和合规的一个重要步骤。

虽然欧盟《人工智能法案》(the AI Act)已于上月生效,但所有合规期限还需数年才能实施。这就造成了一个不合规的真空地带,欧盟希望通过《人工智能公约》来填补这一真空。

这项工作旨在加强参与和促进承诺,以便企业在最后期限前采取步骤落实法律要求。《人工智能公约》注重促进信息共享,使签署方能够互相帮助,应对欧盟《人工智能法案》即将提出的要求,并积极开发最佳实践。

《人工智能公约》围绕两个支柱构建:

支柱一:充当与相关人工智能组织互动的门户,鼓励交流最佳实践,并提供有关《人工智能法案》实施过程的实用信息;

支柱二:鼓励AI系统提供商和部署者尽早做好准备并采取行动,以遵守立法中规定的要求和义务。


委员会正在与参与者合作,并支持他们:

  • 建立对人工智能法案目标的共识。
  • 采取具体行动来理解、适应和准备未来实施人工智能法案(例如,建立内部流程、为员工做好准备和自我评估 AI 系统)。
  • 共享知识并提高为展示可信 AI 而实施的保护措施的可见性和可信度。
  • 建立对 AI 技术的额外信任。


02

签署方的义务


欧盟已公布的签署方包括IBM、谷歌、亚马逊、微软、OpenAI、Palantir、三星、SAP、Salesforce、Snap、空客、保时捷、联想和高通等知名企业。

目前,已有超过100家公司成为AI契约的首批签署方,包括跨国公司和欧洲中小企业(SMEs),涵盖了IT、电信、医疗保健、银行、汽车和航空等多个领域。

欧盟人工智能公约包括三个核心承诺和一系列自愿承诺,其中核心承诺包括:

  • 制定AI治理策略,促进组织对AI的使用,并努力实现未来对AI法案的遵守。
  • 高风险AI系统识别,在可行的范围内,尽可能地绘制在AI法案下可能被视为高风险领域的AI系统提供或部署的地图。
  • 提高员工的AI素养和意识,确保合乎道德和负责任的AI开发。考虑到员工的技术知识、经验、教育和培训,以及AI系统将被使用的上下文,并考虑使用AI系统所影响的人员或人员群体。

此外,超过一半的签署方还进行了额外的自愿承诺,包括确保人类监督、降低风险以及透明地标记某些类型的AI生成内容,例如深度伪造的图像、音频或视频。

这些承诺是由监督人工智法案的人工智能办公室起草的,并在人工智能公约网络中“利益相关者”反馈后进行筛选。

签署方需在12个月后报告其承诺实施的结果,尽管目前尚不清楚这种报告将涉及的具体内容。


03

谁没签署?


值得注意的是,尽管有公司表达了加入AI契约的意向,但仍有一些知名公司尚未出现在初步名单中,例如Meta、Nvidia、Anthropic、Mistral、Spotify、苹果等。

Meta的一位发言人表示,他们目前专注于根据人工智能法案进行合规工作,但不排除未来加入人工智能公约的可能。

如果Meta在真正的人工智能法案上犯错,它可能面临数十亿的罚款。这可能就是Meta目前没有签署公约的原因,因为违背承诺将招致公众的严厉批评。

而Spotify上周刚签署了一封由Meta起草的公开信,游说反对可能遏制生成式AI发展的法规。

来源欧盟官网、TechCrunch
编译|郑惠敏
审核|张羽翔



END



上海市人工智能与社会发展研究会
上海市人工智能与社会发展研究会官方公众号,聚焦人工智能时代的前沿理论和现实议题,助力国家、城市、组织的数智化转型。
 最新文章