网络空间国际规则前沿与态势简报 第三十八期(2023.10.01 - 2023.10.31)
文摘
其他
2023-11-09 08:02
浙江
【前沿动态】
1.第18届联合国互联网治理论坛在日本京都举行
2. 联合国裁军研究所发布报告《人工智能与国际安全：了解风险并为建立信任措施铺平道路》
3. 英国在线安全法案经御准成为法律
4. 欧盟和七国集团就先进人工智能开发组织的自愿性国际指导原则和行为准则达成一致
5. 白宫公布人工智能行政命令
【本期聚焦】
红十字国际委员会发布《战争期间“平民黑客”的八条规则以及各国加以约束的四项义务》
【域外研究】
1. 【论文】《小心你的愿望：应对网络空间的法律不确定性》
2. 【论文】《自主武器系统、错误和对国际人道法的违反》
3. 【论文】《数字领域中的主权平等原则》
10月8-12日，第18届联合国互联网治理论坛（Internet
Governance Forum，IGF）在日本京都成功举行。本次论坛的参会者包含来自政府、私营部门、民间社会以及技术和学术界的多方代表，会议主要围绕人工智能与新兴技术、数字鸿沟与数字包容、数据治理与信任等八个主题进行。其中，联合国秘书长古特雷斯、日本首相岸田文雄、英国数字和数据基础设施部长John Whittingdale、白宫国家安全委员会技术与民主部主任Randi
Michel等专家和领导人组成的高级别小组，特别围绕“理解数据在信任下自由流动”“错误信息与虚假信息的趋势”“人工智能”等五个主题开展了高级别会议。就“人工智能”这一议题，高级别小组主要讨论了人工智能加大数字鸿沟的风险，同意应加强数字包容，并表达了对广岛人工智能进程的支持。在“错误信息与虚假信息”议题中，高级别小组首先就错误信息与虚假信息的定义达成了一致，并指出人工智能将使制作与传播错误或虚假信息更加便捷。作为应对措施，小组引用了欧盟《人工智能法案》（详见第三十五期简报）中要求标注人工智能生成内容的例子。在高级别会议之外，《京都互联网治理论坛信息》报告总结了本次论坛300多场会议中的关键信息。在国际人权与自由这一议题下，与会者特别考虑了信息获取问题，并指出政府应避免采取关闭互联网的手段，保证信息的自由流动。https://www.intgovforum.org/en/dashboard/igf-2023
联合国裁军研究所发布报告《人工智能与国际安全：了解风险并为建立信任措施铺平道路》
10月12日，联合国裁军研究所发布了题为《人工智能与国际安全：了解风险并为建立信任措施铺平道路》（AI and International Security: Understanding the Risks and Paving the Path for Confidence-Building Measures）的报告。这份报告是裁军研究所关于建立人工智能信任措施项目第一阶段的成果，报告的主要目标是提供一个人工智能主要相关风险的全面概览。项目的第二阶段将在第一阶段的基础上，通过多利益相关方参与，探索建立信任措施的途径。
这份报告概述了在国际和平与安全背景下，跨使用领域和应用领域的人工智能风险的主要类别。报告将人工智能的风险分为两大类别：第一，技术风险，包括人工智能技术内在的安全风险、网络安全风险和人机交互风险。第二，人工智能对全球安全的风险，包括人工智能对使用武力决策的误判、造成冲突升级和造成武器的扩散的风险。报告中设想了一些可能出现的风险场景，比如无人机因地形识别错误侵入他国领土、人工智能系统错误将民用物体识别为军事目标等。对致命自主武器系统（LAWS）风险的讨论是报告的一大重点，报告多处援引了关于致命自主武器系统领域新兴技术政府专家组的文件，重申各国必须确保在国际法，特别是国际人道法下遵守其在LAWS领域新兴技术武器系统的整个生命周期中的义务。在必要时，各国应为人类操作员提供适当的培训和指导。https://unidir.org/publication/ai-and-international-security-understanding-the-risks-and-paving-the-path-for-confidence-building-measures/
10月26日，英国在线安全法案（Online Safety Bill）经御准成为法律。该法案注重保护儿童免受网络伤害，同时提供了成年人自主过滤网络内容的选项。法案规定科技公司有法律责任迅速删除或阻止非法内容出现；防止儿童访问有害和超过年龄的内容，包括色情、鼓励自杀、鼓励严重霸凌的内容；在发布对儿童有害内容的平台上实施年龄限制并进行年龄检查；确保社交媒体平台对其网站可能给儿童带来的风险更加透明，并发布风险评估报告等。成年人有权根据法案要求科技公司删除非法或侵权内容，要求社交媒体平台履行注册时对用户的承诺，以及为用户过滤掉他们不想看到的内容等。如果违反这些义务，科技公司将可能面临高达数十亿英镑的巨额罚款，科技公司的高层可能被追究刑事责任。英国通信管理局将从10月26日起立即开始打击非法内容，并于2023年11月9日为科技公司遵循法案启动咨询流程。https://bills.parliament.uk/bills/3137#timeline
欧盟和七国集团就先进人工智能开发组织的自愿性国际指导原则和行为准则达成一致
10月30日，欧盟和七国集团领导人就《先进人工智能开发组织广岛进程国际指导原则》（Hiroshima Process International Guiding Principles for
Organizations Developing Advanced AI system）和《先进人工智能开发组织广岛进程国际行为准则》（Hiroshima
Process International Code of Conduct for Organizations Developing Advanced AI
Systems）达成一致。这两份文件是2023年5月七国集团峰会中广岛进程倡议的成果。《指导原则》提出开发先进人工智能的组织应在设计、开发和部署人工智能的过程中遵循法治、人权、正当程序、多样性、公平和非歧视、民主和以人为中心的原则。具体而言，《指导原则》提出了11条原则，包括要求公开报告人工智系统的能力、限制等以确保透明度；开发和部署可靠的内容认证和来源验证机制，使用户能够识别人工智能生成的内容等。以《指导原则》为基础，欧盟和七国集团还达成了《行为准则》。《行为准则》针对《指导原则》中的11条具体原则分别给出了行动建议，包括人工智能的开发和部署中的测试措施、应当排除的风险、提升透明度的报告中应当包含哪些内容等。《指导原则》和《行为准则》将继续进行审查和更新，包括通过包容性的多利益攸关方磋商，以确保它们符合目的并对这一快速发展的技术作出反应。第一批签署国将在不久后公布。这些原则和自愿行为准则是对经济合作与发展组织（OECD）、全球人工智能合作伙伴关系（GPAI）等相关进程的呼应，并将在国际层面补充《欧盟人工智能法案》等具有法律约束力的规则。链接：
https://digital-strategy.ec.europa.eu/en/library/hiroshima-process-international-guiding-principles-advanced-ai-system
https://digital-strategy.ec.europa.eu/en/library/hiroshima-process-international-code-conduct-advanced-ai-systems
10月30日，白宫发布了《关于安全、可靠和值得信赖的人工智能开发和使用的行政命令》（Executive Order on the Safe, Secure, and Trustworthy
Development and Use of Artificial Intelligence）。《行政命令》包含目的、政策和原则、定义、保证人工智能技术的安全、促进创新与竞争、支持工人、促进平等和公民权利、保护消费者，病人，行人及学生、保护隐私权、推动联邦政府对人工智能的使用、加强美国的海外领导力等十一个部分。
在保证人工智能技术的安全这一部分，《行政命令》规定了人工智能开发者与政府共享关键信息、制定国家标准并将其用于关键基础设施、检测人工智能生成内容和标注官方信息以区分虚假信息等内容。在保护隐私权部分，《行政命令》要求商务部等行政部门制定评估隐私权保护的标准及程序指南等内容。在加强美国的海外领导力部分，《行政命令》提出美国政府将与他国合作并建立一个强有力的国际框架，以管理人工智能的开发和使用。
白宫认为该行政命令可以对日本的七国集团广岛进程、英国人工智能安全峰会、印度领导的人工智能全球伙伴关系（GPAI）以及联合国相关讨论等进程起到支持和补充作用。
链接：
https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/
红十字国际委员会发布《战争期间“平民黑客”的八条规则以及各国加以约束的四项义务》
10月4日，红十字国际委员会法律顾问Tilman Rodenhäuser和红十字国际委员会新型数字战争技术顾问Mauro Vignati联合撰写并发表了题为8 rules for “civilian hackers” during war, and 4
obligations for states to restrain them的文章，提出了战争期间针对平民黑客的八条规则，并重申了各国约束平民黑客的四项义务。这是红十字国际委员会首次发布针对战争期间平民黑客的规则。文章首先注意到近年来平民黑客越来越多地参与战争这一令人不安的倾向，并总结了这种趋势带来的不良影响。第一，平民黑客对民用物体直接或附带的攻击将对平民造成伤害。银行、电力、医疗等系统一旦成为平民黑客的攻击目标，将会严重影响平民的日常生活，并有可能造成财产损失或人身伤害。第二，民间黑客可能会被视作“直接参与敌对行动”的人，从而使自己以及与他们关系密切的人成为军事目标。第三，平民黑客对战争的积极参与会使平民和作战人员间的界限越发模糊。为应对平民黑客带来的冲击，坚持保护平民这一基本的人道理念，作者提出了一条警告和八条规则。作者警告参与战争的平民黑客，对军事或民用目标的网络攻击行为可能被视作“直接参与敌对行动”，从而使自己不受区分原则的保护，并面临着被逮捕并起诉的风险。平民黑客应当了解并尊重如下八条规则，他们所属的团体应当确保成员遵守这些规则。第一，不得针对民用物体开展直接网络攻击。民用物体是指军事目标以外的物体，包括民用基础设施、公共服务、公司、私有财产以及民用数据等。第二，不得随意使用恶意软件或其他自动传播并损害军事目标和民用物体的工具或技术。第三，在计划针对军事目标的网络攻击时，应尽力避免或尽量减少行动对平民造成的影响，如果攻击可能对平民造成过分伤害，应停止攻击。第四，不得针对医疗和人道主义设施开展任何网络行动。第五，不得针对民众生存所必需的或可能释放危险力量的物体开展网络攻击。平民生存所必需的物体包括饮用水设施或灌溉系统等，可能释放危险力量的物体包括水坝、核电站、化工厂等。第六，不得以暴力威胁在平民中散布恐慌，如侵入通信系统发布意图在平民中传播恐怖的信息。第七，不得煽动违反国际人道法的行为，如在通信渠道中共享攻击民用物体的技术细节等。第八，即使敌人不遵守这些规则，己方也应当遵守，因为报复或对等不能成为违反国际人道法的借口。此外，作者指出，各国不应鼓励或容忍民间黑客在武装冲突背景下开展网络行动。国家根据审慎原则负有不得蓄意允许他人利用其领土使用信息和通信技术实施国际不法行为的义务，因此，国家应当首先通过并执行规范战争期间平民黑客行动的法律。其次，根据国际人道法，国家对平民黑客的个人行为负有四项义务：第一，如果平民黑客在某个国家的指示、指挥或控制下行事，该国应对这些个人违反该国国际法义务的任何行为承担国际责任。第二，各国不得鼓励平民或团体采取违反国际人道法的行为。第三，各国负有防止平民黑客在其领土上违反国际人道法的审慎义务。第四，各国有义务起诉构成战争罪的罪行，并采取必要措施制止其他违反国际人道法的行为。近年来，数字技术的不断发展使日常生活的信息化程度越来越高，军队的作战方式也逐渐信息化，平民越来越多地被卷入武装冲突中。迄今，不断有平民或黑客组织自发或受国家鼓励或要求而参与武装冲突，如2013年黑客组织“匿名者”（Anonymous）对ISIS的自发攻击，以及最近的俄乌战争中双方民间黑客组织的混战。平民通过网络在武装冲突中的持续参与已经形成了令人担忧的倾向，官方网络战争活动和平民的自发行为之间的界限已经模糊，一些平民黑客会与官方合作，同步目标和行动时间、计划等；官方网络军队也会从平民黑客中招募新兵。这至少会造成两类令人担忧的后果：首先，这可能会模糊平民与战斗人员、民用物体与军事目标的界限，侵蚀区分原则这一国际人道法中的基石性原则，并使参与其中的平民受到过分损害。根据区分原则，平民和民用物体不应受到攻击，除非平民直接参与敌对行动。在战争背景下，平民黑客对敌对方军事目标的直接攻击可能会满足造成一定的伤害、有直接因果关系、存在交战关系这三条标准，从而构成“直接参与敌对行动”，这样的平民和民用物体将不再受到区分原则的保护。但是，平民黑客并非战斗人员，民用物体也并非军事目标，这二者都缺乏应对敌对方打击的素质和客观条件。如果敌对方的军队选择以武力反击平民黑客以及他们使用的设备，这些被认定为“直接参与敌对行动”的平民可能面临比一般战斗人员更大的受损害风险。其次，交战方可能会利用平民黑客带来的规则漏洞来绕过国际人道法的某些规则。国家的网络军队是当然的国家代理人（state agent)，如果国家的网络军队违反国际人道法的规则，国家将对本国网络军队的国际不法行为承担国际责任。但是，平民黑客的行为并不能当然的归因于国家，在不能建立黑客组织与官方的有效控制（effective control）关系时，平民黑客组织受国家鼓励的不法行为就可能逃过国际人道法的规制。国际人道法禁止对平民及民用物体不分皂白的攻击，并禁止对平民和民用物体不成比例的攻击。然而，在实际的战争中，平民黑客组织经常对敌对国家的银行、电力、铁路网等系统发动攻击，对敌对国家的平民及民生系统造成破坏，这无疑是对国际人道法规则的又一次冲击。红十字国际委员会针对平民黑客最新发布的八条规则，是对这种冲击的及时反应。可以看出，针对平民黑客的八条规则背后有实践性的考量。平民黑客在战争中参与网络攻击的实践层出不穷，由于这些黑客通常都是匿名行动并且掌握了相当的网络技术，识别并严格禁止平民黑客行动并不现实。在这种情况下，通过禁止平民黑客对民用物体和平民直接进行网络攻击、限制攻击方式以及要求平民黑客在进行网络攻击时考虑附带损失，这八条规则可以在一定程度上加固区分原则。具体而言，通过限制平民黑客的行为，区分原则的第二点漏洞，即交战方通过平民黑客绕过国际人道法的某些规则这一漏洞，得到了弥补。然而，也应当注意到，限制平民黑客的行动只是一个治标的办法。限制平民黑客可以保护未参与战争的平民和民用物体，但是平民黑客频繁参与战争本身就是对区分原则区分平民与战斗人员这一核心原则的侵蚀。从平民黑客自身的角度来看，直接参与敌对行动会使他们成为军事目标，在没有军事训练和技能的情况下面临武力打击；并且与战斗人员根据命令采取的行动受豁免不同，平民黑客可能会因为自身行为受到逮捕和起诉。对其他平民而言，平民与战斗人员的区分一旦模糊，普通平民在战争中受到的保护也会减弱。因此，在这一方面，更应当注意国家约束平民黑客的义务，特别是不得鼓励平民违反国际人道法、防止管辖范围内的平民黑客违反国际人道法以及起诉战争罪行的义务。最重要的是，国家应当采取各种努力，遏制或扭转平民黑客参与战争行动的趋势，维护区分原则这一国际人道法核心原则。https://blogs.icrc.org/law-and-policy/2023/10/04/8-rules-civilian-hackers-war-4-obligations-states-restrain-them/【论文】《小心你的愿望：应对网络空间的法律不确定性》
10月13日，荷兰国防学院助理教授Peter Pijpers在《北欧国际法杂志》（Nordic Journal of
International Law）第92卷第3期上发表了题为Careful What You Wish For: Tackling Legal Uncertainty in
Cyberspace的论文。
作者认为，网络空间的特点是参与者众多且信息传播便捷，网络空间影响行动（influence operation）的快速发展和变化意味着传统的国际法可能无法迅速适应。作者指出，尽管国家近年来不断发布法律意见，相关的国家实践也在增加，但是国际法适用于网络空间的分歧却并未缩小，反而扩大了。作者以主权原则和不干涉原则为例，阐释了国家法律意见上的分歧造成的国际法适用困难。许多国家对如何解释这两条原则保持沉默，其他国家尽管表达了法律意见，但所表达的观点远未统一。作者认为，这可能造成法律上的不对称：一些国家可能会遵守国际法，但其他国家将利用这种分歧，从众多法律意见中挑选更符合自身利益的解释。针对主权和不干涉原则，作者提出了三个应对不确定性的建议：第一，正视不确定性。并非所有国家都认同主权原则和不干涉原则是可以适用于网络空间的规则，但可以通过分离原本的规则中那些适用于网络空间的部分，找到意见的折衷处。比如，一般认为主权原则包括一国保持领土完整和政治独立（political independence）不受侵犯的权力，虽然“领土完整”这一概念难以适用于网络空间，但“政治独立”却存在适用的可能性，后者就可以作为双方就主权原则的解释达成一致的出发点。第二，增强规则的韧性。这可以通过提供多种替代规则来实现，当主权原则因为不确定性难以适用时，可以转而援引不可抗力（force majeure）或危难（distress）作为替代。第三，采用其他应对措施。作者提出，如果无法援引主权或不干涉原则，受害国可以通过信息行动、经济制裁、外交措施来应对。
链接：
https://brill.com/view/journals/nord/92/3/article-p394_005.xml
【论文】《自主武器系统、错误和对国际人道法的违反》10月20日，日内瓦国际发展研究所博士Abhimanyu George Jain在《国际刑事司法杂志》第21卷第3期上发表了题为Autonomous
Weapon Systems, Errors and Breaches of International Humanitarian Law的论文。本文作者试图解决的问题是：自主武器系统因错误而攻击平民是否违反了国际人道法中禁止攻击平民及民用物体的规则。此处的自主武器系统“错误”是指非故意的技术或人为因素，如编程错误、算法错误、故障、人机交互错误等。作者首先介绍了国际人道法中与保护平民及民用物体有关的规则，包括禁止不分皂白的攻击、禁止不成比例的攻击和预防原则等规则。通过分析这些规则的要件，作者指出，由于非故意的“错误”而攻击平民或民用物体一般不会违反国际人道法的相关规则，但是这种错误应当受到审慎原则的限制。如果错误的产生是因为自主武器系统的开发者或使用者未尽合理的努力履行注意义务，那么这种错误攻击就会违反国际人道法。关于注意义务的适用对象和具体标准，作者认为，注意义务应当适用于自主武器系统选取攻击目标的整个过程中，包括系统的开发、投入使用前的评估、确定使用参数、使用者的培训、检查及维护环节等。另外，还应考虑适用自主武器系统的风险并相应提高注意义务的标准。https://academic.oup.com/jicj/advance-article-abstract/doi/10.1093/jicj/mqad043/732584110月22日，俄罗斯国立研究大学高等经济学院教授Vera Rusinova发表了题为Principle of the
Sovereign Equality of States in the Digital Realm的论文，该论文是《数字国际关系》（Digital international
relations）这本书的一章。作者指出，传统理论基于国家的地理边界来确定主权原则适用的范围，但这种方式在适用于网络空间时产生了困难，因为数字领域中没有领土的物理概念。作者认为更适合解释主权原则适用范围的理论是权力理论（the theory of competence），它是由“纯粹法学理论”的支持者发展起来的。根据这一理论，一个国家的领土不是简单的地理划分的反映，而是国家可以强制性施行法律秩序的某些区域。从实用性的角度出发，应该从国家权力的角度来理解主权的本质，而不是将主权理解为国家根据历史对特定地理区域享有的所有权。这种对主权原则的解释方式可以绕过数字领域中令人困惑的虚拟地理边界问题，将重点转移到国家权力及具体功能的实施上。这样，数字领域中主权的边界实际就是被国际法承认并保护的国家合法利益的边界。作者认为，与现实中的领土边界不同，数字领域中的主权边界可以有部分重叠。
链接：
https://link.springer.com/chapter/10.1007/978-981-99-3467-6_7#:~:text=The%20application%20of%20the%20principle,(Schmidt%2C%202017%3A%2020%E2%80%93
![]()
