网络空间国际规则前沿与态势简报 第四十四期(2024.05.01 - 2024.05.31)
文摘
其他
2024-06-04 08:00
江苏
1. 经济合作与发展组织更新《关于人工智能的建议书》
2. 美国国务院发布网络空间和数字政策国际战略
3. 联合国信息和通信技术安全与使用问题开放式工作组举办首届全球网络安全能力建设高级别圆桌会议
4. 美国科罗拉多州颁布全国首部旨在防止算法歧视的《人工智能法案》
5. 第二届人工智能安全峰会发布《安全、创新和包容的人工智首尔宣言》
6. 欧洲理事会最终批准欧盟《人工智能法案》
【本期聚焦】
欧洲委员会通过《人工智能与人权、民主和法治框架公约》
【域外研究】
1. 【论文】《国际刑法准备好适应网络危害了吗？挑战与机遇》
2. 【论文】《人工智能的可能危害与欧盟〈人工智能法案〉：基本权利和风险》
3. 【论文】《通过人权机构而非国际刑事法院处理武装冲突中的非法网络行动》
5月3日，经济合作与发展组织（OECD）发布了修订版的《关于人工智能的建议书》（Recommendation on Artificial Intelligence）。《关于人工智能的建议书》是经合组织在2019年5月通过的世界上首个政府间人工智能治理标准。修订版《建议书》将创新、可信度和人权放在首位，试图通过积极主动的措施和国际合作解决人工智能技术发展应用中的隐私和安全问题，指导政策制定者科学应对人工智能新发展带来的挑战和机遇。近年来出现的通用和生成式人工智能，对隐私、知识产权、安全和信息完整性的保护提出了新的挑战。修订版《建议书》希望能通过多种手段应对这些风险，包括积极解决安全问题、打击虚假信息、促进负责任的商业行为，以及在整个人工智能生命周期内促进利益攸关方之间的合作等。《建议书》还强调了透明度和负责任的披露，以及环境可持续性在人工智能发展中的重要性。它也指出国际合作在人工智能治理中至关重要的地位，尤其是在建立可互操作的人工智能治理框架，以及确保技术进步与社会价值观和优先事项保持一致方面。虽然《建议书》并不具备法律约束力，但依然可以成为全球人工智能政策制定的参考，促进国际互操作性，并为世界各地的政策制定者提供信息。
https://legalinstruments.oecd.org/en/instruments/oecd-legal-04495月6日，美国国务院发布了《美国网络空间和数字政策国际战略：迈向创新、安全和尊重权利的数字未来》（United States International Cyberspace and Digital Policy Strategy: Towards an Innovative, Secure, and Rights-Respecting Digital Future）。该战略重点阐述了数字团结（digital solidarity）的概念，即愿意为共同目标携手努力、团结一致，帮助合作伙伴建设能力、提供相互支持。美国在该战略中称，希望未来能在全球范围内与更多伙伴合作，实现并扩大数字团结。
在网络空间国际规则方面，该战略首先重申了现有国际法可适用于网络空间的共识，强调美国国防部将继续与盟国合作，进一步确认现有的共同防御条约可适用于网络空间，而达到武装攻击的水平的网络攻击可能会触发此类条约规定的共同防御义务。其次，美国将继续推动网络空间负责任国家行为规范的发展，落实负责任国家行为框架的基本要素，并加强所有国家管理网络相关威胁的能力建设。最后，在支持加入《布达佩斯网络犯罪公约》的同时，美国也在积极努力确保联合国《打击网络犯罪公约》的谈判取得积极成果，并继续反对过于宽泛的网络犯罪定义。
关于人工智能技术，该战略强调了在人工智能领域塑造共同价值观和治理原则对美国数字外交的重要性，明确将继续通过七国集团（G7）、经合组织、联合国等场所的讨论达成广泛共识，推动更多国家接受广岛进程《开发先进人工智能系统组织国际行为准则》（International Code of Conduct for Organizations Developing Advanced AI systems）。此外，美国有关部门正在制定《人工智能全球发展手册》（AI in Global Development Playbook），试通过国内政策引领全球标准。
https://www.state.gov/united-states-international-cyberspace-and-digital-policy-strategy联合国信息安全开放式工作组举办首届全球网络安全能力建设高级别圆桌会议
5月10日，联合国信息和通信技术安全与使用开放式工作组（OEWG）举办了首届全球网络安全能力建设高级别圆桌会议，会议旨在讨论如何弥补全球在信息和通信技术安全方面的能力差距。联合国秘书长古特雷斯在致辞中强调了弥合数字鸿沟和加强信息和通信技术安全的必要性，突出强调了全球安全与数字技术之间日益增长的相互依存关系。圆桌会议讨论了关于网络安全的几个关键问题。首先，会议指出当前全球普遍缺乏对网络威胁的认识，网络安全专业人员不足。因此，亟需制定专门的培训计划，创建平等的数字技术获取环境，开展数字扫盲，弥合数字鸿沟。其次，会议强调国际合作对网络安全能力建设十分重要，敦促私营部门在管理安全相关基础设施方面发挥更加积极的作用，强调需要采取超越国界和部门的包容协调应对措施，并确认了联合国在协调全球信息和通信技术安全能力建设方面的作用。再次，会议认为多利益攸关方的合作框架有利于发展成员国的国家能力。会上，来自各领域的利益攸关方发言人详细展示了其研究及具体计划，涉及政策制定和技术援助方面的整体支持，以及帮助解决具体的网络安全能力问题等。最后，会议重申了推进信息和传播技术安全能力建设的集体决心，强调了在治理、技术开发、人才培养和伙伴关系方面采取包容性、战略性和务实方法的重要性。https://dig.watch/event/global-roundtable-on-ict-security-capacity-building
美国科罗拉多州颁布全国首部旨在防止算法歧视的《人工智能法案》
5月17日，科罗拉多州州长签署了美国第一部旨在防止算法歧视的《科罗拉多州人工智能法案》（The Colorado Artificial Intelligence Act, CAIA）。该法案对高风险人工智能系统的开发者和部署者规定了合理谨慎（reasonable care）责任，以保护消费者免受算法歧视（algorithmic
discrimination）的风险。法案的适用对象涵盖在科罗拉多州开展业务的高风险人工智能系统的开发者和部署者，这并不限于总部位于科罗拉多州的公司，而是包括任何可能与科罗拉多州居民相互影响或与该州实体签订合同的公司。法案将“高风险人工智能系统”定义为“任何在部署后做出重大决定，或成为做出重大决定之重要因素的人工智能系统”。法案还规定，如果受监管企业已经披露了有关其高风险系统的某些信息，包括培训数据摘要以及为降低伤害风险而采取的措施，则推定该企业已经尽到了合理谨慎义务，该推定是可反驳的。为保护中小企业创新，法案还规定了对部署者免除某些要求的条件设置。该法案预计将于2026年2月1日生效。尽管科罗拉多州州长波利斯签署了该法案，但他发表了一份签署声明，表示对法案持保留意见。他指出，虽然法案总体上侧重于禁止故意歧视的行为，但它偏离了这一做法，仅对人工智能系统的使用结果进行了规范，而不论其意图（intent）如何。波利斯鼓励立法机构在该法案生效之前对其进行重新审查。
链接：
https://natlawreview.com/article/colorado-takes-lead-artificial-intelligence-regulation
第二届人工智能安全峰会发布《安全、创新和包容的人工智首尔宣言》
5月21日至22日，第二届人工智能安全峰会在韩国首尔召开，美国、英国、法国、日本、新加坡等国领导人出席了此次峰会。本届峰会以“安全、创新、包容”为议题，就进一步保障人工智能安全性、推进人工智能可持续发展等问题展开讨论。21日的首脑级会议后，与会各方发布了《安全、创新和包容的人工智能首尔宣言》（Seoul Declaration for Safe, Innovative and Inclusive AI）。
宣言首先申明了与会各方致力于共同促进有关人工智能的国际合作与对话，在布莱切利峰会的基础上，认识到人工智能的安全、创新和包容是互通互容的，必须将其纳入关于人工智能治理的国际讨论中。宣言接着强调了基于风险的人工智能治理框架之间互操作性的重要性，支持按照广岛进程《开发先进人工智能系统组织国际行为准则》的要求落实。宣言还支持参与者为设立或扩大人工智能安全研究机构、研究项目以及其他相关机构而做出的努力，并在宣言附件《人工智能安全科学国际合作首尔意向声明》中做出了进一步阐明。与会方倡议制定政策和治理框架，以促进安全、创新和包容的人工智能系统，并申明包括政府、私营部门、学界和民间社会在内的多利益攸关方行为体应积极合作。此外，宣言参与方的目标是通过积极参与联合国及其专门机构、七国集团（G7）、经济合作与发展组织（OECD）、欧洲委员会和全球人工智能伙伴关系（GPAI）等的其他国际倡议，加强人工智能治理的国际合作，因此重申其认可各组织的最新原则和决议，并期待相关的报告和文件。
https://aiseoulsummit.kr/press/?uid=41&mod=document&pageid=1
5月21日，欧洲理事会最终批准了欧盟《人工智能法案》（EU Artificial Intelligence Act）。法案采用了“基于风险”的方法，即人工智能对社会造成危害的风险越高，相应的规则就越严格。这是世界上第一部人工智能全面监管法案，旨在促进欧盟单一市场上私人和公共行为体开发、采用安全可信的人工智能系统。同时，它还旨在确保尊重欧盟公民的基本权利，并促进欧洲在人工智能方面的投资和创新。人工智能法案仅适用于欧盟法律适用范围内的领域，并规定了豁免条款，如专门用于军事和国防以及研究目的的系统。为确保法案的后续实施和执行工作，将设立几个管理机构，包括负责在欧盟范围内执行共同规则的人工智能办公室，支持执法活动的独立专家科学小组，由成员国代表组成的人工智能委员会，以及提供专业技术知识的利益相关者咨询论坛。
经欧洲议会议长和欧洲理事会主席签署后，《人工智能法案》将于近日在欧盟官方公报上公布，并在公布二十天后生效。新法规将在生效两年后适用，但某些特定条款除外。https://www.consilium.europa.eu/en/press/press-releases/2024/05/21/artificial-intelligence-ai-act-council-gives-final-green-light-to-the-first-worldwide-rules-on-ai/#:~:text=Today%20the%20Council%20approved%20a,society%2C%20the%20stricter%20the%20rules.
欧洲委员会通过《人工智能与人权、民主和法治框架公约》
2024年5月17日，欧洲委员会通过了《人工智能与人权、民主和法治框架公约》（Framework
Convention on artificial intelligence and human rights, democracy, and the rule
of law，以下简称“框架公约”）。《框架公约》是有史以来第一部具有法律约束力的人工智能国际条约，由欧洲委员会46个成员国、欧盟以及美国等11个非欧洲国家作为观察员国共同起草，68名私营部门、民间社会和学术界代表也作为观察员参与其中。《框架公约》主要包含八个章节、共36条，涉及一般义务、保证透明度和隐私等一般原则、救济措施、风险评估与缓解、执行与后续机制、条约适用问题等。公约内容旨在确保人工智能系统生命周期内尊重人权、法治和民主法律标准。该公约并非面面俱到，其目标和宗旨局限于与欧洲委员会任务有关的人权、民主和法治问题，且未规范人工智能技术本身和人工智能应用的经济、市场方面的问题。《框架公约》仅开放供欧洲委员会成员国、参与起草的非成员国和欧洲联盟签署，并应于五个签署国（包括至少三个欧洲委员会成员国）通过批准、接受或核准的方式，同意接受本公约约束之日起三个月期满后的下一个月1日起生效。公约生效后，欧洲委员会在与本公约缔约方协商并征得其一致同意后，可邀请未参与拟订本公约的欧洲委员会非成员国以多数决定的方式加入本公约。《框架公约》是以欧洲为代表的西方国家在人工智能国际法领域的首次立法尝试，具有鲜明的欧洲人工治理特色和浓厚的西方法律价值色彩。此次尝试颇为大胆，但也暗含着欧洲委员会的诸多审慎考量。《框架公约》本质上只是一个原则性的法律框架，许多具体规则有待后续完善或交由缔约方自主决策，具有相当的灵活性。而为了避免法律对创新的阻碍，《框架公约》特别设置了“安全创新”条款，试图在技术创新与安全发展之间把握动态平衡。一、《框架公约》是欧洲人工智能治理理念的拓展与推广从参与主体看，由欧洲委员会人工智能委员会起草、经欧洲委员会通过的《框架公约》，基本反映了以欧洲为代表的西方国家在人工智能治理领域的方法理念。虽然公约吸纳了部分非欧洲国家的参与，但参与国多属与欧洲国家关系密切的西方国家阵营，谈判也主要在欧盟委员会和美国代表团之间进行，其进一步欢迎加入的也是“与欧洲委员会价值观相同的感兴趣的非欧洲国家”。从公约内容看，一方面，《框架公约》着重强调的是对现有国际人权文书的适用，而非创造新的人权或义务。现有国际人权体系本身就反映了西方国家的人权理念，《框架公约》解释性报告列举的清单中，联合国框架下的人权文书的数量仅占三分之一，其余三分之二均为欧洲和美洲的人权文件。而保护民主体制和进程这一要求中的三权分立、司法独立等原则，更是西方政体特征的充分体现。另一方面，《框架公约》对人工智能领域的特殊规定延续了欧盟《人工智能法案》中基于风险的方法，要求缔约方通过考虑对人权、民主和法治的影响，采取或维持应对人工智能系统风险的措施，并酌情分级。《框架公约》是一个人工智能治理的法律框架，规定了人工智能系统生命周期内活动的共同一般原则和规则。它并未详尽列举人工智能生命周期内的特定活动，留待缔约方自行决定或根据后续文书补充。缔约方可以灵活“采取或维持（adopt or maintain）”有关措施来应对人工智能的风险，即可以根据本国企业情况、监管框架和国家议程，自行决定是通过新的法规，还是沿用传统制度对人工智能相关风险进行监管。而《框架公约》本身的规则将以缔约方大会的形式实现后续细化、执行与监督。这种对生命周期的概括提及，确保了公约义务能够覆盖人工智能活动的所有阶段，适应了人工智能技术的快迭代性和发展的不确定性，符合敏捷治理原则，可以有效避免公约因技术进步而变得不合时宜。另一方面，在全球人工智能治理日益碎片化、各国分歧不断扩大的情况下，相对模糊的规则有助于消减各国对公约可能阻碍本国技术发展的担忧，推动达成全球人工智能治理理念的最大公约数。但框架性与灵活性同时也意味着法律约束力的减弱，可能导致《框架公约》沦为空泛而缺乏执行力的“空壳”。人工智能监管的关键是安全与创新的平衡。除了对透明度、数据保护、问责制等一般原则的规定，《框架公约》特别设置了“安全创新”条款，呼吁各缔约方酌情在其主管当局的监督下建立开发和测试人工智能系统的受控环境，在促进创新的同时避免对人权、民主和法治产生不良影响。《框架公约》同样将具体制度安排留给缔约方决定，期待缔约方通过“监管沙盒”等方式，在人工智能的设计阶段就纳入质量、隐私和其他问题的考量，在主管当局的控制之下推动人工智能技术的开发与应用。安全创新条款有利于尽早识别人工智能系统中的潜在风险，促进私营实体、监管机构和其他利益相关方的知识共享与合规沟通，测试法规与技术的适配性并不断调整适应，帮助监管机构制定政策，增强公众和行业信心，在促进创新和公共利益保护之间取得平衡。但值得注意的是，《框架公约》依然具有强烈的重监管色彩。在谈判中，美国曾坚持将私营部门排除在公约规制范围之外，体现了其对重监管可能阻碍技术发展与应用的担忧。最终通过的《框架公约》采用了折衷方案，即公约本身只适用于公共实体和代表其行事的私人行为者的行为，但缔约方必须声明其意图对私营部门施加的义务。各国可以随时出于国家利益的考量修改声明，调整对公约的承诺，这大大削弱了公约对国家的约束力。《框架公约》是相关国家在全球范围内推广欧洲标准、通过国际法规则抢占人工智能全球治理话语权先机的重要手段。鉴于当前人工智能国际治理尚处于“建章立制”的关键时期，以及欧洲利用其庞大的数字市场可能对人工智能国际规则制定发挥的“布鲁塞尔效应”，我国应当对《框架公约》予以重视并展开审慎研判，在完善人工智能国内治理的同时，尽早准备我国在人工智能国际法领域的规划和布局。首先，政府可以主导推动“两步走”战略，发展从区域性条约到以联合国为主渠道的人工智能国际法规则。其次，应鼓励我国私营主体、研究机构及民间组织等积极参与人工智能国际法规则制定进程，给予相应的政策和资金支持。最后，启动立法前需要审慎考量安全与创新之间的平衡，可先采用框架性、原则性的立法模式，避免过早全面立法阻碍技术创新，或产生法律迅速落后于技术发展的情况。https://www.coe.int/en/web/portal/-/council-of-europe-adopts-first-international-treaty-on-artificial-intelligence【论文】《国际刑法准备好适应网络危害了吗？挑战与机遇》
5月9日，埃塞克斯大学法学院人权中心博士生兼助理讲师Sarah Zarmsky在期刊Journal of
International Criminal Justice的特刊Contemporary International Criminal Law After Critique上发表Is
International Criminal Law Ready to Accommodate Online Harm? Challenges and
Opportunities一文。
作者指出，新技术既有可能推动对国际罪行的问责，也有可能助长国际罪行的实施。迄今为止，大多数现有文献都侧重于对前者的研究，如数字证据如何在国际刑事诉讼中使用。而对于后者，现有研究则主要采取基于权利的方法进行（如技术如何侵犯隐私权或言论自由权）。作者强调，本文回答了一个未被充分研究的问题，即技术如何成为实施某些国际犯罪或产生新罪行的工具，以及当前的国际刑法框架应如何适应“在线伤害（online harms）”，以确保法律承认对受害者造成的全部伤害。目前，这些受害者可能无法通过国际刑事司法系统获得补偿。文章列举了三个与国际犯罪有可预见联系的“在线伤害”实例，包括仇恨言论和虚假信息、在互联网上分享犯罪录像以及在线性暴力。文章将“在线伤害”与包括灭绝种族罪、危害人类罪和战争罪在内的国际刑法核心罪行所包含的类似伤害进行对比评估，以探究“在线伤害”融入国际刑法框架的方法（例如，作为量刑的加重因素、现有罪行的新犯罪模式或新罪行）。作者指出，某些类型的“在线伤害”可能比其他类型的伤害更容易解释，作者还指出了现有国际刑法架构的不足之处，为今后研究如何以最佳方式将新型“在线伤害”纳入国际刑法提供了基础。文章最后强调，由于技术只会继续发展并成为越来越多伤害的载体，因此，找到解释“在线伤害”并为受害者提供补偿的方法应成为国际刑法的首要问题。
链接：
https://digital-commons.usnwc.edu/ils/vol103/iss1/7/
【论文】《人工智能的可能危害与欧盟〈人工智能法案〉：基本权利和风险》5月11日，德国班贝格大学社会学教授Isabel Kusche在期刊Journal of Risk
Research上发表Possible harms of artificial intelligence and the EU AI
act: fundamental rights and risk一文。作者指出，在讨论未来人工智能在社会中的作用时，不同的参与者都会使用风险的概念——有时是对基础技术可能产生的意外后果的一般性提示，有时则是针对人工智能风险的政治监管。人工智能风险大多在法律或伦理框架内讨论，我们仍然缺乏基于社会学风险研究的视角。本文以关于风险和社会的系统理论思维为基础，分析了基于风险的人工智能监管的潜力和局限性，尤其是关于“危害”这一概念对基本权利的影响。作者以欧盟《人工智能法案》及其早期草案和相关文件为基础，分析了这一监管框架如何界定人工智能的“危害”，以及所选择的界定方式对监管的影响。研究结果表明，在利用基本权利确定人工智能风险的同时，这些基本权利也作为法律规则、价值观和人工智能可信度的基础被引用。这种试图用基本权利来概括所有可能“危害”的方式会造成沟通上的悖论。它开启了高风险人工智能系统政治分类的大门，也开启了脱离对基本权利和价值观系统性关注的未来标准制定的大门。附加的系统性风险概念涉及通用人工智能模型可能带来的风险，进一步揭示了人工智能危害界定方面的问题。作者的结论是，《人工智能法案》不可能实现其目标，即为值得信赖的人工智能创造条件。https://www.tandfonline.com/doi/full/10.1080/13669877.2024.2350720
【论文】《通过人权机构而非国际刑事法院处理武装冲突中的非法网络行动》1月，范德比尔特大学法学院博士生、美国陆军上尉Zachary R. Orr在期刊Vanderbilt Journal
of Transnational Law第57卷第1期发表Addressing Unlawful Cyber Operations in Armed Conflict
through Human Rights Bodies instead of the International Criminal Court一文。作者指出，俄罗斯利用进攻性网络行动推进其对乌克兰的非法战争，这促使人们呼吁国际刑事法院对这些网络行动做出回应。然而，国际刑事法院（ICC）并不适合裁决武装冲突中的网络行为，因为网络行动与传统的战争罪法律框架格格不入。此外，《国际刑事法院罗马规约》的实体和程序要求过于严格，可能对检察官能够提起有效诉讼且具有构成战争罪潜质的网络行动的种类造成严格限制。同时，由于大多数网络行为不会产生动能效果，《罗马规约》所反映的国际人道法既定框架并不能全面规范网络行动发生的独特领域。作者认为，研究者们忽视了解决武装冲突中非法网络行动的一个更有希望的途径，即通过国际人权法规定的生命权进行。作为与国际人道法相辅相成的更具延展性的法律体系，人权法——尤其是生命权——可以囊括更多的网络行为，追究对平民造成有害影响的武装分子的责任。通过人权法解决网络行动问题还将加速网络行动相关法律的发展，并鼓励采用更具跨学科性的方法来评估网络空间应如何受国际法补充性领域的管辖。链接：
https://heinonline.org/HOL/Page?public=true&handle=hein.journals/vantl57&div=9&start_page=359&collection=usjournals&set_as_cursor=0&men_tab=srchresults
![]()
