本文由德蒙福特大学的多位学者联合撰写，通过分析49份AI政策文件及其治理框架如何被用于应对围绕人工智能发展的争议，提出了平衡技术创新与社会风险的协作性治理模式。文章主要内容从技术治理理论、政策文件的核心框架到公众参与的重要性和治理模式的局限性，均有涉及和探讨，为新兴技术治理的未来研究提供了相对应参考。
01
正文
近年来，人工智能因数据可用性和计算能力的快速提升而在多个领域取得突破，包括医疗、教育、安全等。然而，AI的快速发展也引发了公众的担忧，例如权力集中、社会不平等和算法歧视等问题。政策文件提出了多种解决方案框架，其中“治理”框架成为核心之一。文章特别指出，这些政策文件诞生于AI技术过度炒作的背景下，其目标是通过治理来平衡技术的机遇与风险。
治理的理论基础强调技术与社会的共建性。正如Sheila Jasanoff所指出，技术不仅是实现目标的工具，还反映了社会的愿景和权力结构。文章引用Borras和Edler的研究，提出了四种治理模式：指令控制模式，即国家通过层级化的方式主导治理；合作模式，即国家与非国家行为体通过非层级化方式共同治理；寡头治理模式，由少数强大的社会行为体主导且具有层级特性；自我规制模式，即社会行为体通过非层级化方式自主治理。这些模式突出了治理的多样性及其在应对AI争议时的重要作用。近年来，国家在治理中的角色已从传统的市场纠偏者扩展为“促进者”、“担保者”和“社会参与推动者”，以更好地应对技术治理的复杂性。
文章阐明，AI发展引发的诸多争议多数聚焦在可能加剧社会经济不平等和权力集中问题。尽管AI被视为具有巨大的潜力，可以推动经济增长和解决社会问题，但其负面影响同样不容忽视。首先，AI可能导致“富裕的悖论”，即技术进步可能使整体社会变得更加富裕，但对个体和社区而言，可能加剧权力和奖励的不平等。此外，AI系统的设计者和部署者掌握着巨大的权力，能够定义什么是“道德行为”，这种权力可能会通过算法来影响个体的行为，甚至加强既有的社会不平等。特别是在自动驾驶等领域，算法可能会优先考虑某些利益（如乘客安全或利润最大化），忽视公共安全或平等性问题。更为严重的是，当前AI技术的开发大多掌握在少数大型跨国公司手中，这些公司的技术主导地位加剧了技术发展的集中化，进一步扩大了技术不平衡。
02
政府与公众在AI治理中的角色
自2016年以来，各国和组织纷纷推出AI政策文件。欧洲经济和社会委员会指出，目前AI发展的资源和技术集中在五大科技公司手中，形成了治理的寡头模式。为应对这一问题，许多政策文件强调国家应发挥更加积极的作用。政策文件将国家定义为AI发展的推动者。例如，法国文件提到“国家必须成为转型的核心驱动力”，并呼吁政府提供必要的资源支持。英国议会的报告指出，政府需制定前瞻性政策，快速响应技术发展的风险，以保护公众利益。与此同时，通过协调利益相关者的不同立场以促进多方协作的角色也被明确强调。政策文件还提到，政府需要积极鼓励公众参与，例如通过建立多方平台来集成公众意见。这些举措不仅体现了国家在AI治理中的多重角色，还显示出国家与社会合作的重要性。
公众参与在AI治理中被赋予了极高的期望。多数政策文件呼吁通过“多利益相关者”模式扩大公众参与。例如，IEEE报告强调，开发者应与用户合作，确保AI系统反映多样化需求。AI Now 2017报告特别提到，应发布有关女性和少数群体参与AI开发的数据，以提高透明度并减少偏见。此外，法国文件提出，AI不仅要避免加剧不平等，还应积极减少社会排斥和财富集中问题。欧洲经济和社会委员会文件建议，应广泛吸纳政策制定者、产业界、社会组织、消费者和学术界的意见，以确保政策的多样性和包容性。美国政府的AI文件则进一步指出，通过将开发者和用户的标准结合起来，可以实现AI开发过程的民主化。许多政策文件还讨论了与公众互动的具体方式。例如，欧洲委员会的多方利益相关者平台“AI联盟”提供了一个讨论AI治理问题的场所。法国报告建议成立广泛的社会论坛，让各方对AI的伦理问题展开公开讨论。英国议会的报告则呼吁开展“高质量和知情的公众对话”，讨论AI的社会影响。联合国教科文组织提议，AI治理应将社会最弱势群体的需求置于中心，例如通过可持续发展目标（SDG）引导技术设计。
尽管治理框架具有一定的理论吸引力，但文章指出其在实际应用中存在以下局限性。首先是利益集团捕获的风险。欧洲委员会高级专家组开发的道德规范被批评为“道德漂白”，其本质是推迟强制性监管。这种情况导致行业主导地位的加强，削弱了公众在治理中的作用。其次，公众参与需要大量资源支持，但在协调多样化观点方面往往难以达成一致。AI治理中涉及的多方利益和复杂性也使得共识的形成更加困难。此外，政策文件尽管呼吁多方参与，但实际操作中行业利益往往占主导地位，导致治理的公平性受到质疑。文章还进一步指出，政策文件对治理模式的描述往往缺乏细节。虽然许多文件强调公众参与的重要性，但在实践中，如何确保这些参与的实际影响力仍是一个未解决的问题。例如，欧洲委员会的“AI联盟”尽管聚集了广泛的社会群体，但其主要成员仍是来自行业和学术界的专家，公众代表的比例较低。这种不平衡的参与模式使得AI治理在实际操作中可能偏离其初衷。
文章总结指出，当前AI政策文件的治理框架通过赋予国家和社会更积极的角色，试图在创新和社会需求之间取得平衡。然而，作者也呼吁未来研究应更多关注“行动框架”，即从实际政策实施中提炼出具体的治理模式。政策文件的重点应从单一的技术解决方案转向更广泛的社会问题，例如减少不平等和促进包容性发展。此外，在制定政策时，需要更多地考虑如何有效解决公众参与的资源和效率问题，以及如何克服多方协作中的障碍。
编译｜陆逸沛
排版｜谢霄曈
审核｜陈荒拓 智库编审委员会
2024 WPET
公众号｜世政经科技研究院
小红书｜世界政经科技论坛
网站｜wpet.org.cn
