今年3月，第78届联合国大会通过了一份具有里程碑意义的决议，题为：抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展。决议强调，各国需要制定人工智能系统标准，以促进数字化转型，并确保公平获取人工智能系统。
《联合国新闻》近日邀请到了曾亲历这份决议草案磋商过程的联合国网络安全与网络犯罪问题高级顾问、北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括，请他来聊一聊人工智能快速发展背景下的全球网络安全问题，以及未来的全球人工智能治理。
Q1
在2018、2019年的时候，您接受过联合国新闻的采访。几年过去，您觉得人工智能发展对于网络安全来说，是起到了正面还是负面作用？
相比较于上一次和联合国的交流，人工智能快速发展对于目前的网络安全和网络治理提出了一系列新的问题和挑战，既有积极一面，也有消极一面。人工智能的发展带来了更多数字化发展的场景，但随着应用场景的增多，我们所面临的风险类型和风险程度也在迅速地变化。总体而言，我们所面临的风险类型日趋多样，风险程度也日益深刻。
Q2
您觉得ChatGPT对于网络安全来说会带来怎样的隐患？
首先，我们应当注意到，ChatGPT作为人工智能的一种应用形式，在信息处理和自动化方面具有巨大潜力，但同时也伴随着一些安全隐患。例如，它可能会给用户带来不同程度的信息偏差和误导信息，从而会干扰用户形成科学准确的判断。
我们也观察到，越来越多的案例表明，ChatGPT在研发和应用的过程中可能带来数据泄露的风险。例如，在训练数据和用户输入的过程中，可能包含敏感信息，这些敏感信息面临着数据泄露的风险，特别是如果服务器遭受攻击或者管理上存在失误时，这种情况更有可能发生。
此外，ChatGPT在应用过程中，如果被恶意使用，可能会生成恶意代码。例如，它可能被用于编写用于网络攻击的工具代码，在一定程度上降低实施网络攻击的技术门槛。
同时，我们还注意到，包括ChatGPT在内的各类人工智能工具软件的应用，可能对社会稳定和公共安全带来风险。例如，在结果输出的过程当中，可能会受到预训练数据中特定的价值判断和价值偏见的影响，从而成为舆论操纵的工具，甚至损害社会治理乃至国家治理，严重威胁公共安全。
另外，ChatGPT等场景中的算法可能存在一种不可解释的问题。这种算法黑箱的状态可能导致用户在使用过程中存在不信任心理，也可能在一定程度上影响此类技术的场景化应用。
Q3
我们一直在聊人工智能发展具有极高的不确定性，您觉得在全球应对方面，我们能够采取哪些预防措施去消除这种不确定性？
我们可以从研发、应用以及治理三个层面进行有效的回应。在研发层面，例如一直在探讨的人工智能研发者的准入问题，以及人工智能研发过程中应当遵循的基本技术标准问题，都是需要特别关注的。目前，在国际组织以及不同国家和地区中，人工智能安全的多重技术标准等问题都在展开探讨和推动。因此，对于研发环节的主体准入以及业务规则的设计，应当有基本的底线要求。
其次，在人工智能应用过程中，需要建立有效的监测预警和高效敏捷的干预处置机制。当人工智能出现负面效果时，能够及时的发现、有效的干预，并采取必要的权益恢复措施，这非常重要。
在治理层面，我们也需要构建关于人工智能治理的规则要求，比如治理主体权限的设定，以及在治理过程中潜在相关方的权利义务分配和责任配置问题。今天的人工智能不是简单的技术应用，而是一种新的数字化生态。应对这种不确定性时，我们需要采取生态式综合治理的思路，通过不同层面、不同主体全面协同的立体治理方式，最大限度地降低各类不确定性。
©吴沈括供图 | 吴沈括参加毒罪办网络犯罪治理磋商会。
Q4
那我们回到3月底联合国通过的有关于人工智能治理的这项决议，听说吴教授也参与了这项决议的磋商过程，可不可以请您简单地给我们介绍一下这份决议？
这个决议是迄今为止在联合国框架下有关人工智能的首个全球性的决议草案，其目的是确保这项强大的新技术能够造福所有的国家，尊重人权，并且确保人工智能是安全可靠的和值得信任的。
大家会发现，此份决议通过速度非常快，仅用了两三个月的时间，并且以协商一致的方式快速通过，事实上这代表了联合国所有会员国的普遍支持和认可，也标志着国际社会在人工智能领域达成了一定的全球性共识。各国共同推动人工智能的可持续发展，以期促进全人类的共同福祉。
在文本表述中，大家能够看到几个非常重要的观点，例如强调制定人工智能系统标准的重要性，提升人工智能全球治理的紧迫性，并在人工智能系统全生命周期内确保尊重、保护和增进人权以及基本自由等。这份决议承载了很多联合国自身固有的价值立场。
Q5
就像您刚刚说的，这份决议它通过的速度非常快，也是用协商一致的方式通过的。那在磋商过程中，各国是否有一些分歧？
与其说是分歧，我认为更可以说是关切不同。一方面，各国对于人工智能应用所带来的益处和福祉是认可并且期待的。另一方面，各国对人工智能应用过程中可能产生的消极影响存在不同的重点关切。并且在此基础之上，各国对于构筑面向未来的人工智能的制度基础和生态基础也提出了各自的重点需求，比如技术转让、人才培训、智能鸿沟跨越等，这些都是各国在磋商过程当中非常关注的要点。
非洲、南美以及其他地区的一些发展中国家尤为关注在人工智能时代国家主权的保护问题，以及智能鸿沟的跨越问题。
而在人工智能领域先行的国家则更关注人工智能在应用过程中已经产生的新的风险类型，以及针对这一系列风险类型的有效治理，包括划定必要的关于人工智能应用的行为红线，通过这种方式来筑牢关于人工智能应用和治理的基线。
尽管各国处于不同的发展阶段，但是对于这一问题的关注度应当是同步的。
Q6
您是否觉得让全世界所有人类在线上线下，包括在人工智能系统的整个生命周期内享有同等的权利是一条人工智能发展的底线？
人工智能技术的发展和应用对于个人权利和社会结构产生了深远的影响，因此必须确保人工智能在其全生命周期内能切实尊重和保护人权。实际上，这也是包括联合国在内的一系列国际组织的重要的价值基线。
此外，这一理念在《全球人工智能治理倡议》、《人工智能布莱切利宣言》等文件中都有体现。
我们需要特别注意到的是，我们今天讨论人权保护和平等权利保护，有几点核心的关切点。
第一是尊重个体的权利，包括隐私权利、表达权利和知情权利等。
其次是防止歧视，尤其是算法歧视。因为人工智能系统在应用的过程中，基于其技术属性，可能会带来歧视、偏见等潜在风险。
第三是人工智能在应用过程中必须确保必要的透明度和可解释性，例如，用户或者受到影响的其他相关利益方应该能够有效理解人工智能系统做出特定决策的基本原理，以更好地保护我们在未来的人工智能时代中享有基本知情权和选择权。
人工智能系统在设计、开发和应用过程中，不能以牺牲人权为代价。它应当作为一种工具，加强和促进人权的实现。在价值体系层面，确保人工智能技术和人权价值的相互协调是联合国框架下人工智能治理的重要的逻辑主线。关于人权保障和平等权利保护的原则，在未来的人工智能全球治理中，将会是一个非常重要的价值基石。
Q7
就在各个国家在人工智能治理方面互动这么频繁的背景之下，中国一直是主张在加强人工智能的全球治理方面，一定要发挥联合国的主渠道作用。您对这样的一个管治架构有怎样的设想？
中方确实一直主张发挥联合国的主渠道作用，重视联合国的制度性角色定位。同时，我们也能看到联合国在人工智能治理中能够发挥的作用及其未来的意义。我们要特别强调联合国所具备的不同角色。
首先，联合国作为多边主义的捍卫者，通过多边框架解决全球问题，尤其是发展中国家对此有广泛的期待。
此外，联合国是国际法和国际规则的重要制定者，其制定和通过的具有普遍约束力的国际法律和规范对人工智能的应用和治理至关重要。人工智能具有全球性特点，因此需要包括联合国在内的一系列国际规则和规范的有效制定和实施。
联合国作为国际争端的调解者和国际和平与安全的维护者，在应对人工智能应用中可能引发的冲突风险和矛盾激化方面也发挥着重要作用。
联合国作为全球发展议程的推动者、国际合作的协调者和全球公共产品的提供者，在人工智能应用治理中能协调国际资源整合和治理方式融合，对于构建全球步调一致的人工智能治理方案至关重要。
最后，联合国作为人权和人道主义事务的倡导者，在全球人权保护和解决人道主义危机方面具有重要意义。这一点在人工智能的应用过程中尤为突出，决议对人权和人道主义价值的高度关注有目共睹。
联合国秘书长古特雷斯日前在安理会题为“应对网络空间不断变化的威胁”高级别辩论会上发言指出，数字技术正在以惊人的速度取得突破性的发展，而数字进步正在彻底改变经济和社会。他强调，现实世界的和平与安全要求对数字世界的和平与安全采取新的方法。
多重挑战
古特雷斯指出，将数字技术武器化的危险逐年增加。国家和非国家行为者以及彻头彻尾的犯罪分子在网络空间的恶意活动都在增加。严重的网络安全事件屡见不鲜，令人不安。医疗保健、银行和电信等基本公共服务遭到破坏。犯罪组织和所谓的“网络雇佣军”在不间断地从事非法活动，一大群仇恨制造者在信息高速路上散布恐惧和分裂的情绪。
他表示，网络空间正在越来越多地被当做另一种武器在武装冲突中加以使用。所谓的平民“黑客行动主义者”正在加入这场争斗，并且在许多情况下模糊了战斗人员和平民之间的界限。
巨大威胁
他表示，公司的供应链正成为黑客的活跃攻击目标，带来严重的破坏性和连锁效应。勒索软件是一个令人痛心的例子——对公共和私人机构以及人们依赖的关键基础设施构成巨大威胁。一些估计认为，2023年，勒索软件敲诈支付总额达到11亿美元。
和平、安全与稳定成本
全球法律框架
他指出，在使用这些技术方面，各国正在建立普遍认可的负责任的国家行为规范框架，并积极考虑国际法对这一领域的国家活动的适用性。
他表示，在联大的主持下，会员国正努力在未来几个月就一项新的网络犯罪条约达成共识。他期待着与安理会、联大和所有会员国合作，确保技术集中用于它应该用于的地方: 即所有人共享的地球的进步和安全。
打开看世界的窗口
责任编辑：程浩
实习编辑：刘薇 张震威
资料来源：联合国新闻
