本期目录
【前沿动态】
1. 欧洲委员会正式启动《人工智能与人权、民主和法治框架公约》签署
2. 2024年军事领域负责任人工智能峰会通过《军事领域人工智能负责应用行动蓝图》
3. 欧洲数据保护委员会与欧盟委员会合作制定《数字市场法案》和《通用数据保护条例》协调指南
4. G20部长宣言确立人工智能治理方针
5. 欧洲委员会发布保护选民个人数据的指南
6. 欧盟人工智能办公室启动《通用人工智能实践准则》的编写工作
【本期聚焦】
联合国通过《全球数字契约》
【域外研究】
1. 【论文】《网络空间的“强制”：总结相关辩论》
2. 【论文】《锚定数字主权》
3. 【博客】《了解法国在网络空间的主权观点：为什么法国可能不属于“主权作为规则”和“纯粹主权”阵营》
前沿动态
欧洲委员会正式启动《人工智能与人权、民主和法治框架公约》签署
9月5日，欧洲委员会正式举行《欧洲委员会人工智能与人权、民主和法治框架公约》（CETS No.225）的签署仪式。该公约由欧洲委员会的46个成员国以及11个非成员国（澳大利亚、加拿大、以色列、日本、墨西哥和美国等）共同谈判达成。作为全球首个具有法律约束力的人工智能国际条约，公约旨在确保人工智能系统的使用符合人权、民主和法治的基本原则，其适用范围广泛，涵盖公共和私营部门（参见第四十四期简报聚焦）。
《框架公约》包含八个章节，建立了涵盖人工智能系统整个生命周期的法律框架。与欧盟《人工智能法案》相比，该公约更侧重于广泛的原则，而非具体的执行策略，并且在实施细则上尚不明确。根据公约，缔约方需采取措施，确保人工智能系统的使用符合维护人权、保障民主机构独立性以及保护民主进程的要求。
目前，美国、英国、安道尔、格鲁吉亚、冰岛、挪威、摩尔多瓦、圣马力诺和以色列等国家已成为首批签署国。公约将在至少五个签署国（包括三个欧洲委员会成员国）批准后三个月正式生效。未来，各国如何将这些指导原则转化为具体的国内立法，仍有待进一步观察。
链接：
https://rm.coe.int/1680afae3c
2024年军事领域负责任人工智能峰会通过《军事领域人工智能负责应用行动蓝图》
9月10日，在首尔举行的第二届军事领域负责任人工智能峰会（REAIM）上，60多个国家支持了《军事领域人工智能负责应用行动蓝图》，以推动在军事领域中负责任使用人工智能的全球治理。该议题将在10月的联合国大会上继续讨论，以期达成更广泛的国际共识。
《行动蓝图》申明人工智能应用的开发、部署和使用必须符合国际法，包括可适用的《联合国宪章》、国际人道法、国际人权法，提醒注意联合国大会关于致命性自主武器系统的第78/241号决议以及相关的区域和国际会议；并强调这些倡议应是协同和互补的。《行动蓝图》指出：为确保在军事领域进行负责任的人工智能使用，相关人员应能够充分理解、解释、追踪和信任人工智能和人工智能支持的系统在军事领域产生的成果，继续努力提高军事领域人工智能的可解释性和可追溯性。蓝图特别明确，人工智能使用的责任永远应由人类承担，不可将责任和义务转嫁给机器。
链接：
https://www.reuters.com/technology/artificial-intelligence/south-korea-summit-announces-blueprint-using-ai-military-2024-09-10/
欧洲数据保护委员会与欧盟委员会合作制定《数字市场法案》和《通用数据保护条例》协调指南
9月10日，欧洲数据保护委员会（EDPB）与欧盟委员会（European Commission）宣布合作制定一份协调《数字市场法案》（DMA）与《通用数据保护条例》（GDPR）的指南。此次合作旨在确保被称为“数字守门人”的大型平台或公司执行DMA时，能够有效履行其数据保护义务，特别是在数据共享、隐私保护和透明度等方面与GDPR保持一致。
该指南的核心目标是解决DMA和GDPR之间可能存在的冲突和不确定性，确保DMA中关于数据处理的要求不会违背GDPR的基本原则。欧盟委员会和EDPB的合作将深入探讨具体的数据处理场景，如数据最小化、用户同意及数据匿名化等GDPR关键概念在DMA中的实际应用。通过这一协调框架，欧盟旨在为数字平台的管理提供更清晰的指导，确保数据处理的合规性和透明性，同时促进数字市场的公平竞争。指南将重点涵盖数据共享、数据组合、互操作性及消费者数据权利等关键领域。
链接：
https://www.edpb.europa.eu/news/news/2024/edpb-work-together-european-commission-develop-guidance-interplay-gdpr-and-dma_en
G20部长宣言确立人工智能治理方针
9月13日，G20数字经济部长们在数字经济工作组会议上通过了一项联合声明。该声明涵盖了数字包容性、普遍和有意义的连接、数字政府、包容性数字公共基础设施、在线信息完整性以及在数字经济中建立信任等多个议题。打击虚假信息和促进信息完整性的议程首次成为G20部长宣言的重要组成部分。
该宣言特别强调了全球数字包容性的紧迫性，旨在通过在发展中国家普及有益的互联网连接，缩小全球数字差距。在信息完整性方面，宣言明确指出，信息的准确性和完整性是数字经济、公共机构的运行以及治理和民主进程赖以维持信任的关键。各成员国需建立各自法律框架，推动数字平台的透明度和问责机制，并通过与相关利益攸关方的合作，共同应对虚假信息的威胁。宣言强调了尊重人权的原则，指出人工智能的开发和应用应致力于造福全人类。成员国将与联合国教科文组织合作制定人工智能治理框架，以期推动能力建设、联合研究、自愿技术转让和知识共享。
链接：
https://www.gov.uk/government/publications/g20-ministerial-declaration-maceio-13-september-2024/g20-ministerial-declaration-13-september-2024
欧洲委员会发布保护选民个人数据的指南
9月18日，欧洲委员会发布了一项新指南，旨在确保选民在登记和身份验证过程中，个人数据隐私得到充分保护。该指南由《有关个人数据自动化处理之个人保护公约》（欧洲第108号公约）的咨询委员会制定，强调了对生物识别信息、政治观点、种族或民族血统等敏感数据的保护。
指南要求数据控制者采取适当的安全措施，以防止数据泄露或滥用，尤其是在使用生物识别技术时需特别谨慎。指南指出，尽管生物识别技术提高了身份验证的效率，但若处理不当，可能导致隐私泄露、歧视、恐吓及其他侵犯选民权利的行为。因此，指南建议各国政府在使用这些技术时，务必确保其符合国际数据保护和隐私标准。此外，文件还明确了选举管理机构的责任，要求在数据处理过程中尊重选民的隐私权，并确保处理的透明性。为此，指南呼吁各成员国加强监督和审查机制，确保选举期间的个人数据处理符合法律框架，以保障自由、公正、安全的选举环境。
链接：
https://www.coe.int/en/web/data-protection/-/new-guidelines-to-protect-voters-personal-data
欧盟人工智能办公室启动《通用人工智能实践准则》的编写工作
9月30日，欧盟人工智能办公室召开了《通用人工智能实践准则》的启动会议。《实践守则》的编写过程采取了典型的多利益攸关方模式，通用人工智能模型提供商、下游服务商、行业组织、学术界等近1000名代表参加了该会议。
《实践准则》的编写工作将在2024年9月至2025年4月期间通过多轮会议推进，重点涵盖算法模型透明度、版权保护、系统性风险分类、风险评估和风险缓解等重要领域。该准则不仅意图为人工智能模型的提供商建立合规指南，还通过系统性风险的分类和管理框架，确保模型在全球范围内运用的合法性和安全性。
整个起草过程由四个工作组主导，每个工作组专注于特定议题，确保各方的意见得到充分讨论和整合。预计在2025年4月的闭幕全体会议上，《实践准则》的最终版本将正式发布。发布后，欧盟委员会的人工智能办公室等将对准则的适用性进行评估，必要时提出修订意见。最终，欧盟委员会将通过实施《人工智能法案》，赋予《实践准则》在欧盟范围内的法律效力，并确保准则自《人工智能法案》生效12个月后，即2026年8月1日起全面实施。如果评估结果显示《实践准则》未能充分应对潜在风险，欧盟委员会将提供履行相关义务的通用规则。
链接：
https://ec.europa.eu/commission/presscorner/detail/en/mex_24_4961
本期聚焦
联合国通过《全球数字契约》
【概述】
9 月 22 日，联合国会员国在未来峰会期间通过了《全球数字契约》(Global Digital Compact) (以下简称《契约》)。2020年，在联合国成立 75周年之际，各会员国在《纪念联合国成立七十五周年宣言》中承诺加强数字合作并塑造“一个数字未来，展示有益技术使用的全部潜力”。在此基础上，联合国秘书长在其 2021年报告《我们的共同议程》(Our Common Agenda)中提议制定《契约》，以“概述为所有人创造开放、自由和安全的数字未来的共同原则”。《我们的共同议程》设想在未来峰会期间就《契约》达成一致。
《契约》旨在构建一个包容、开放、可持续、公平、安全及稳定的数字合作框架，并制定适用于非军事领域的13项原则、5大目标，以及相关承诺和行动方案。13项原则可概括为：促进包容性参与，推动发展导向，尊重国际法，实现性别平等，支持环境可持续性，确保公平的数字经济，提升数字可及性，推动互操作性，倡导责任与透明，鼓励创新与竞争，倡导多方参与，增强伙伴关系，保持前瞻性与适应性。5大目标分别是：缩小数字鸿沟并推动可持续发展目标（Sustainable Development Goals）进展、扩大数字经济的包容性和惠益、促进一个包容、安全的数字空间，尊重并促进人权、推动负责任、公正且互通的数据治理、加强人工智能的国际治理。
【评析】《全球数字契约》是《未来契约》的附件之一，旨在为所有人创造一个开放、安全和可靠的数字未来。在全球地缘政治竞争越来越走向失控，尤其是联合国本身也面临重重挑战的现实下，《契约》是一份难得的在全球范围内展开讨论并最大限度达成共识的标志性治理文件，是网络空间全球治理进程的一个重要里程碑。
一是全面性与立法指导性。《契约》从全球视角出发，全面涵盖了当前数字领域的核心议题，从缩小数字鸿沟、数据跨境流动到个人隐私保护及数字技术对社会的影响，内容丰富且广泛。契约开篇即承认数字合作应以国际法为基础，包括《联合国宪章》、国际人权法和《2030 年可持续发展议程》等，强调了《日内瓦原则宣言和行动计划》及《信息社会突尼斯议程》的成果应用。
《契约》列举了多项承诺，涵盖了立法对象、立法内容以及立法程序，同时还涉及数字公共基础设施的建设等硬件领域。在部分目标中，对立法提出了明确的指导。例如，在人权部分，《契约》明确根据国际人权法及《儿童权利公约》，要求加强法律和政策框架，以保护数字空间的儿童权利。
二是多边治理和多利益攸关方治理的进一步体现。网络空间是一个具有独特特征的社会、政治和技术领域，私营部门同样参与建设和治理。由于各国无法单独保护网络空间的安全，迫使其不得不与其他国家、国际组织以及私营部门建立合作机制。总体而言，国家在网络空间的治理中仍然发挥着核心作用，特别是在立法和基础设施建设方面。过于强调多利益攸关方治理可能导致发展中国家在面对大型跨国公司和国际组织时，丧失部分话语权。如古特雷斯秘书长在联合国总部向各国领导人表示：“我们来到这里是为了将多边主义从悬崖边缘拉回来。”《契约》平衡了国家治理和国际组织以及私营部门之间的关系。在2024年6月28日联合国对外公布的第二次修改稿(Rev.2)中的“互联网治理”部分，多边模式和多利益攸关方模式都被认为具有重要作用。《契约》的首要原则便是所有国家及其他利益攸关方的包容性参与，这一原则不仅凸显了不同主体协同合作的重要性，也力图构建一个更为全面和包容的网络空间治理模式。
三是对发展中国家和特殊群体的关注。在第七十九届联大会议上，联大主席任命了两位共同协调人，一位来自发达国家，另一位则来自发展中国家，以确保不同国家的声音得到平衡体现。《契约》明确提出“不让任何人掉队”的目标，强调向发展中国家提供特别支持。具体举措包括促进国际合作关系的建立，动员财政资源，提升能力建设，并在共同商定的基础上推动技术转让。此外，《契约》也关注性别平等，鼓励利用数字技术提升劳动力技能，特别是在推动女性在数字领域中获得更大机会和能力方面。
尽管契约提出了宏大的愿景，但仍存在一些有待解决的问题，需要我们进一步关注。一方面，《契约》本身并不具备法律约束力，缺乏有效的监督机制，这无疑是一个显著的短板。虽然契约制定了许多原则性要求，但在落实这些要求时，缺少相应的监督与执行机制。尽管《契约》规定将在第八十二届联合国大会期间召开“全球数字契约高级别审查会议”，但日常推进落实的具体机制仍有待进一步明确和完善。另一方面，《契约》与现有的联合国机制之间缺乏有效衔接。虽然《契约》明确指出联合国在治理框架的形成和实施方面发挥重要作用，例如在目标五中提出可以参考联合国教科文组织《人工智能伦理建议书》的治理框架，但如何与联合国信息安全开放式工作组（OEWG）等现有机制协调一致，仍是亟待解决的问题。如果《契约》无法与这些机制形成有机合作模式，可能会导致国际层面的重复建设或资源浪费。
【启示】
在《全球数字契约》的指引下，中国应当尽快明确自身的立场与行动方案。作为全球数字化进程的重要参与者，中国可以从以下几方面着手：
首先，中国应进行整体政策梳理和法规完善，尤其是在互联网接入、隐私保护、人工智能治理等重点领域中加快立法进程。通过制定和完善相关法律法规，可以参考《全球数字契约》中的指导原则，加强立法和监管框架，为国内相关企业和机构的技术开发与使用提供明确的法律指导。
其次，中国需要制定切实可行的实施方案和具体的建设计划。中国可以通过在偏远和落后地区加大网络基础设施建设、提供优惠的互联网接入服务、针对妇女儿童、残障人士制定专门的培训方案等措施，进一步提高全国互联网接入的普及度。
再次，中国应充分发挥自身优势，积极承担缩小全球数字鸿沟的责任，展现大国担当。具体而言，中国可以加强技术转让、基础设施建设和数据资源支持，帮助其他发展中国家提升数字化水平。例如，通过与“一带一路”沿线国家建立数字合作伙伴关系，提供技术培训和网络基础设施支持，助力其数字经济的发展。
最后，中国还应推动多方合作机制的建立，发挥多利益攸关方的协同作用。在《契约》提出的多利益攸关方治理模式中，私营企业、学术界和民间组织同样扮演着重要角色。中国应积极促进这些利益攸关方在国内治理中的深度参与。同时，应积极发挥领导作用，团结各国，组织国际性论坛或会议，以探讨全球数字治理的挑战与解决方案，进一步推进《全球数字契约》的落实。
链接：
https://www.un.org/global-digital-compact/sites/default/files/2024-09/Global Digital Compact - English_0.pdf
域外研究
01
【论文】《网络空间的“强制”：总结相关辩论》
8月21日，俄亥俄州立大学法学副教授Mohamed S. Helal的论文Coercion in Cyberspace - Taking Stock of the Debate作为Ohio State University Moritz College of Law Legal Studies Research Paper Series第877号在线发表。
论文指出，尽管不干涉在国际法中被普遍承认为一项基本规则，但各国对于强制的具体定义并未达成一致，特别是在何种国家行为构成强制的门槛问题上存在分歧。各国关于网络空间国际法适用的立场文件对于“强制”行为的效果标准缺乏共识，导致在网络空间如何认定“强制”行为仍有较大的不确定性。
本文首先提出，各国对“强制要件”的解释应被视为拟议法（de lege ferenda），而非现行法（lex lata）的重申。其次，论文批判性地指出，一些国家（特别是西方国家）所采用的“强制”定义在概念上存在缺陷。根据国际法院在“尼加拉瓜案”中的判决，干涉既可以通过武力手段，也可以通过非武力手段（如经济或政治干涉）实现。而部分国家，如德国、瑞士对“强制”的定义实际上可能导致非武力干涉行为比武力干涉具有更高的门槛。基于此，论文提出“统一的强制门槛”，该门槛同时适用于武力干涉和非武力干涉。根据这一标准，如果非武力行为的影响与构成违反威胁使用或使用武力的行为的规模和效果相当，则该行为将被视为“强制”行为。这一“统一的强制门槛”低于许多国家在其立场文件中采用的“强制”门槛。
链接：
https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4932731
02
【论文】《锚定数字主权锚》
9月10日，科罗拉多大学法学院副教授Vivek Krishnamurthy撰写的论文Anchoring Digital Sovereignty在线发表，预计还将于2025年1月在Chicago Journal of International Law 上发表。
论文指出，各国政府和学者现在将传统的领土主权概念应用于网络空间，然而这一趋势可能与全球互联网的开放性和互联性相冲突。
论文首先通过国际法学者对“主权”的定义，阐释了领土主权赋予国家对其领土内事务的广泛权力。然而，与领土主权不同，海洋法承认主权权利的不同组合，这些主权权利受制于其他国家及其国民和平使用一国海域的权利。文章探讨了海洋法的关键原则，这些原则可以帮助重新思考国家在互联网治理中的权利。
通过借鉴海洋法的思路，论文主张国家在网络空间中行使的主权应类似于沿海国家在近海水域中享有的有限主权。不同于对陆地的全面主权，沿海国的权利随着与海岸线距离的加大逐渐减弱，并受到其他国家和平使用这些海域的权利制约。以这种方式重新定义国家对网络空间的权利，可以使其主权权利在尊重其他国家数字权利的基础上，制定合法的在线法规，维护互联网的自由、开放和全球化特性。
因此，论文提出调整现有的主权权利制度，以适应网络空间的治理挑战。这种调整不仅能够确保国家的主权权利得到平衡行使，还能确保全球公民继续享有自由开放的互联网所带来的益处。
链接：
https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4937457
03
【博客】《了解法国在网络空间的主权观点：为什么法国可能不属于“主权作为规则”和“纯粹主权”阵营》
9月19日，巴黎第八大学高级研究员Aude Géry在EJIL: TALK!上发表题为Navigating France's Views on Sovereignty in Cyberspace: Why Might France Not Be in the "Sovereignty-As-A-Rule" and in the "Pure Sovereignty"的博文，详细探讨了法国对网络空间主权的独特看法。
博文首先分析了2019年法国发布的立场文件。该文件主张在网络空间中尊重国家主权是一项一般义务，任何违反该义务的行为都可能构成国际不法行为，这一表述通常被归为“主权作为规则”的阵营。然而，作者指出，法国的立场存在一些模糊和不确定性。尽管法国的声明强调网络攻击“可能”构成对主权的侵犯，但它并没有明确将主权定义为一项国际法规则，而是更加关注侵犯主权的具体条件。
博文还讨论了法国在“纯粹主权”问题上的立场。根据“纯粹主权”的观点，行为无需达到特定的标准或阈值即可被视为对主权的侵犯。虽然法国的声明似乎支持这一观点，但其实际行动与2019年的声明存在不一致之处。例如，法国警方参与了拆除Redatup和Emotet恶意软件服务器的行动，这些行动在多个国家的领土上产生了影响。法国国防部在2022年发布的《军事战争法手册》中，进一步调整了措辞，表明网络攻击“可能”（而非“必然”）构成对主权的侵犯。这一措辞的变化表明法国在处理主权问题上的立场更加灵活，但同时也突显了明确其主权立场的必要性，尤其是在网络行动的背景下，以避免潜在的国际冲突升级，并确保与联合国信息安全政府专家组（GGE）和信息安全开放式工作组（OEWG）的报告保持一致。
链接：
https://www.ejiltalk.org/navigating-frances-views-on-sovereignty-in-cyberspace-why-might-france-not-be-in-the-sovereignty-as-a-rule-and-in-the-pure-sovereignty-camps/?utm_source=mailpoet&utm_medium=email&utm_campaign=ejil-talk-newsletter-post-title_2
