世界展望
近日，联合国秘书长高级别人工智能咨询机构发布了《治理人工智能，助力造福人类》（Final Report: Governing AI for Humanity）的最终报告。高级别人工智能咨询机构成立于2023年10月，由来自33个国家的人工智能领域专家组成，是世界首个聚焦于国际人工智能治理的咨询机构。
报告呼吁各国政府加强国际合作，支持发展中国家在人工智能治理和能力建设方面的努力，共同制定和执行治理标准。这一呼吁强调了全球治理的紧迫性和重要性，鼓励各国政府摒弃零和博弈思维，携手应对人工智能技术带来的挑战和机遇。
原文 ：《人工智能技术赋能全球治理》
编译 | 本报记者 青木
图片 | 网络
科技进步与经济发展的潜力
人工智能（AI）为世界带来变革的同时，具有巨大的向善潜力。从开拓新的科学探索领域和优化能源网络，到改善公共卫生和农业生产。AI工具可为个人、各经济部门、科学研究和其他公共利益领域提供各种潜在机遇。一旦这些机遇得以实现，便可在促进社会经济生活等方面发挥重要作用。诸如能预测和应对流行疾病、自然灾害和粮食危机等促进公共利益的人工智能，就能在实现可持续发展目标方面发挥积极作用。
人工智能推动科技进步。人工智能很可能促成科学技术的飞跃式进步。人工智能以科学家们分享的海量实验数据、科学论文和文献为根基不断迭代，通过大数据分析能更快建立科学假设，提高科研速度，并通过自动化机器人使得大规模实验成为可能。人工智能对科学的影响涵盖各个学科。从生物学到物理学，从环境科学到社会科学，人工智能都在融入研究流程，并加速生成科研成果，目前一部分科研成果已得到证实。
在生物学领域，人工智能破解了持续50年的难题——蛋白质折叠和蛋白质结构预测。AI预测了2亿多个蛋白质的结构，目前已有190多个国家的200多万名科学家使用了该数据库。人工智能的应用范围还扩展到其他生物大分子、基因研究等领域。对于阿尔茨海默病、帕金森病和肌萎缩性侧索硬化症，专家正在利用人工智能识别疾病的生物标志物和预测治疗反应，制定诊断和治疗方法的精准度和速度由此显著提高。人工智能正在遗传和临床档案的基础上定制治疗方法，帮助推进精准医疗。人工智能技术还有助于加速新化合物的发现和利用。
在国际射电天文界，“平方千里阵列”等现代观测仪器通过AI收集数据，其速度和规模完胜传统方法。人工智能可快速选择优先关注的数据部分，以期获得有效观测数据。研究者无须向AI说明具体需要寻找什么，人工智能便可通过“无监督聚类”的框架进行搜寻。未来，人工智能前所未有的跨学科整合能力将孕育出更多新的科研领域。例如，计算机技术与生物神经学整合产生的生物信息学和神经信息学。
人工智能带来经济机遇。电子计算机和数字化革命的经济影响力历经数十年才得以完全显现，而生成式人工智能正在打破这种缓慢的趋势。专家认为，人工智能带来的变革性影响将在这个十年内出现，随之而来的是各个行业被迅速重塑，工作流程的改变和生产力的提高，继而推动经济发展。
人工智能的广泛适用性意味着其可能成为通用技术。人工智能可显著提高全球的国内生产总值。通用人工智能可以帮助发达和发展中经济体的各个部门，包括零售、制造和运营、医疗保健及公共部门的个人、小型和大型企业以及其他组织提高生产力。人工智能可以为企业，尤其是中小微企业提供此前只有大型企业才能获得的高级分析和自动化工具。人工智能可以提高生产力，但也可能会影响就业。
防范人工智能风险至关重要
虽然人工智能具有巨大的向善潜能，但对人工智能乃至其本身都普遍存在各种偏见，除了这项技术的普遍监视令人反感，大语言模型产生的虚假信息、高耗能以及对和平与安全潜在构成的风险等都对现有人类体制构成威胁。报告组的调查收集了来自68个国家和地区的人工智能专家对此的看法，结果有70%的受访专家表示未来18个月内人工智能所造成的损害可能会大幅增加，甚至有16%的专家认为在2025年就会发生意想不到的重大风险。
人工智能的社会影响。多数专家表示担忧或非常担忧人工智能的社会影响。专家担心人工智能对信息完整性的破坏，74%的专家担心AI导致财富和权力过度集中在少数人手中。据调查，在智能设备和互联网等技术方面，全球政策制定者并未充分探讨这些问题，而在人工智能方面，则几乎完全没有讨论。目前的治理框架还停留在优先关注个人而非整个社会所面临的风险的阶段。
随着人工智能变得日益强大且影响广泛，其开发、部署和应用有可能对使用者有成瘾性，会增加使用者的社会疏离感。技术企业应制定政策，与管控其他风险一样管控社会风险，将其作为查明和缓解人工智能产品整个生命周期风险的努力的一部分。现在已经有一些故意使用人工智能伤害他人的事件发生。深度伪造、语音克隆和自动虚假信息活动对社会信任构成了明确的严重威胁。以虚假内容进行欺骗可能会造成损害或社会分裂，或者助长冲突和仇恨言论。在这种情况下，需要强大的验证和深度伪造检测系统。应保护非公众人物，禁止其他人利用其肖像进行深度伪造，并用于欺诈、诽谤或其他滥用目的。带有性色彩的深度伪造对妇女和女童的影响尤其令人关切，这种行为可能是性别暴力的一种形式。
未来安全风险凸显。在人工智能的强化和利用个人数据的情况下，闭环信息生态系统的发展可对国际安全环境产生深远影响，可能使社会更容易接受对他人的不容忍和暴力行为。除此之外，专家还担心在武装冲突、犯罪或恐怖主义中使用人工智能武器会引发严重的法律、安全和人道主义危机。
对于监管者来说，风险管理工作不仅需要列出风险或对其排序，更要建立基于脆弱性的风险框架，将政策议程重点从每个风险是“什么”转变为“谁”面临风险和“哪里”存在风险，以及各种情况下的责任方是谁。对于私营部门行为体来说，需作出自愿承诺，例如，给深度伪造内容贴上标签，或使用户能够标记恶意制作或传播的深度伪造内容，然后予以删除。然而，这些措施无法充分缓解社会风险。需要采取广泛覆盖利益攸关方的办法，并作出具有约束力的承诺。应制定通用的内容认证和数字来源标准，在此基础上采用全球认可的办法来识别合成和经人工智能修改的图像、视频和音频。此外，公共和私营部门行为体应依照国际标准实时分享知识，由此建立快速反应能力，在欺骗性内容或外国信息操纵和干扰有机会疯传之前立即将其删除，但要确保这种能力不被操纵或滥用。
走向可持续发展的未来
人工智能全球治理的必要性无可辩驳，跨国界的通用人工智能使权力与财富更集中，扩大了数字鸿沟，已具有地缘政经层面的影响。此外，目前还没有人了解人工智能的全部的工作原理，更没有能力完全控制其输出或预测其演变。与此同时，一些有关AI负面溢出效应和下游影响也可能是全球性的。提倡利用现有和新设的多边体系来治理人工智能。
多边主义弥补全球人工智能治理差距。即使是技术领先的国家和地区，其治理参与度也不充分。选择性多边主义限制了参与关键议程制定、国家关系建立和信息共享进程的范围。究其原因是在人工智能治理的早期阶段，技术先进国家间存在试验、竞争以及适应的过程，各方达成共识仍有一段路要走，因而更加需要提供成熟的治理机制和环境。目前，许多联合国机构虽然都涉及人工智能治理，但没有一个机构能全面地开展这方面的专业工作，限制了联合国人工智能全球治理的能力。报告建议成立国际人工智能科学小组和联合国人工智能办公室等，在联合国相关机构的支持下与其他各方开展多边合作。
建立适用于人工智能的国际标准。值得注意的是，首先这些标准要为解决具体问题而制定；目前为狭隘的技术或内部验证目的而采用的国际标准与更泛用的标准之间存在脱节。例如，计算机科学家和社会科学家经常对同一概念提出不同的解释。过去，人工智能标准主要侧重于技术规范，详细说明系统应如何构建和运行。然而，随着人工智能技术对社会的影响越来越大，有必要转向社会技术范式。
塑造安全的国际环境。人工智能治理制度应该在国际层面建立信任，避免“人工智能军备竞赛”在安全和权利层面的逐底竞争。各国应就安全和军事领域人工智能的测试、评估、核查和验证机制达成统一认知。各国应就安全和军事领域的人工智能应用交流良好做法并促进负责任的生命周期管理，从而合作培养能力和共享知识。为防止犯罪或恐怖主义团体等危险的非国家行为体获得可能具有自主性的强大人工智能系统，各国应针对人工智能系统的整个生命周期制定适当的控制措施和流程，包括管理人工智能军事应用的生命周期及末端流程。AI行业和其他行为体应考虑建立机制，防止人工智能技术被滥用于恶意或计划外的军事目的。
聚焦儿童与人类未来。今天，未成年人所产生的数据占总量的三分之一，他们将踏入充斥着人工智能的世界，因此确保儿童的需求和保障其权利，也是保护人类的未来。人工智能治理必须将少年儿童视为优先利益攸关方，重点强调儿童免受技术成瘾影响。人工智能对未成年人的长期影响，需要开展广泛的研究，了解人工智能如何随时间推移影响儿童的社交、认知和情感发展。同时，不应将儿童用作AI实验的直接对象。
文章为社会科学报“思想工坊”融媒体原创出品，原载于社会科学报第1925期第1版，未经允许禁止转载，文中内容仅代表作者观点，不代表本报立场。
本期责编：王立尧
拓展阅读
脑机接口应用正在产生对人格边界的“解构效应” | 社会科学报
