张吉豫：我国需要什么样的人工智能治理机制？| 构建赋能型人工智能治理

21世纪以来，人工智能技术迅猛发展，正引领新一轮产业革命，日益成为决定国家竞争力和国家安全的重大战略性技术，同时其广泛使用也给人类带来全新的风险挑战。这使得人工智能治理成为国家治理体系的重要组成部分。党的二十届三中全会通过的《中共中央关于进一步全面深化改革 推进中国式现代化的决定》（以下简称《决定》）指出，“完善推动新一代信息技术、人工智能、航空航天、新能源、新材料、高端装备、生物医药、量子科技等战略性产业发展政策和治理体系”。如何科学有效进行人工智能治理，树立什么样的治理理念，建构什么样的治理机制，形成什么样的治理格局，无疑是法学界和科技界必须回答的时代之问和世界之问。2024年7月1日，第78届联合国大会协商一致通过中国主提的加强人工智能能力建设国际合作决议，140多国参加决议联署。这充分反映了当前人工智能能力建设的重要意义。对此，本文从不发展是最大的不安全、不充分发展是最大的隐患等判断出发，指出人工智能的安全可信是一种需要建立在高发展水平基础上的能力，并针对现阶段亟需能力建设的切实情况，提出“赋能型人工智能治理”的概念。本文将在论述赋能型人工智能治理理论依据的基础上，指明赋能型人工智能治理的核心理念和基本理念，并提出健全以法治为核心的赋能型人工智能治理新机制。赋能型人工智能治理新理念和新机制的结合，必将形成人工智能治理新范式新格局。

以人工智能为首的新兴科技正有力推动着社会各个领域的迭代升级，将在中国式现代化进程中发挥至关重要的作用。在此背景下，2024年《政府工作报告》明确提出开展“人工智能+”行动的工作规划。人工智能将日益广泛地应用在社会生活和国家治理各个方面。随着应用领域和影响力不断扩大，人工智能系统的潜在风险也逐渐凸显。这对人工智能治理提出了促进发展和保障安全的双重需求。现代社会的运行和人的发展建立在信任基础之上，而信任又是建立在对系统的可依赖性的信心之上。社会需要引领和保障人工智能的安全可信发展。

在迈进智能时代的关键历史时期，人类社会需要形成与时代相匹配的运行能力，然而，当前人工智能企业创新发展能力、风险识别和防控能力、政府监管能力、社会监督和正确应用人工智能的能力、国际协作能力等都存在明显不足，缺少充分的信息和成熟的治理经验，社会治理面临全新的挑战。应当看到，这样的挑战是人工智能这种引领产业革命的颠覆性、战略性科技发展初期所必然产生的。创新发展、风险防控等能力不可能凭空获得，需要在发展过程中积极建设。可以说，当前人工智能发展中的主要矛盾，是人工智能安全可信发展的巨大需求与人工智能发展及治理能力不足之间的矛盾。面对这种复杂情景，有必要创新人工智能治理理念和机制，将解决人工智能安全可信发展的能力缺口作为治理要解决的重点问题。因而，在回答我国需要什么样的人工智能治理机制时，首先要明确当下的治理目标，即通过科学治理来赋能人工智能安全可信发展，使得人工智能科技与社会治理能力同步提升，最终使社会建立起可以在人工智能时代良好运行的能力，让人工智能真正服务于人民幸福和人类福祉的提升。因此，本文提出建构着眼于社会能力提升的“赋能型人工智能治理”，具体理据包括如下方面：

（一）人工智能所处的发展阶段

在动态的社会技术变革过程中，科技发展、治理模式与规范观念之间存在相互作用。治理模式的确定需要把握科技规律、经济规律和治理规律，符合所处发展阶段的特征和需求。当前我国人工智能发展的阶段性特征对人工智能治理模式提出了基本要求。

首先，我国人工智能发展处于世界前列，缺少可以借鉴的成熟治理经验。过去我国在许多领域的发展晚于发达国家，可以参考国外在实践中产生的信息经验来进行科学决策。然而，随着我国人工智能科技进入世界领先行列，从“跟跑”变为现在的“并跑”乃至在一些方面的“领跑”，几乎没有经过实践检验的成熟治理经验可以借鉴。“传统政策工具进入信息‘盲区’，这是更好发挥政府作用面临的严重挑战。”在此情况下，需要坚持对人工智能新业态新模式的包容和普惠赋能，升级治理模式和治理能力，加强及时获得风险信息、治理机制及其能效信息的能力建设。

其次，当前人工智能仍处于高速发展阶段，并可能出现难以预测的突破性进展，这也使得传统基于充足信息的静态化治理机制难以有效适应人工智能发展。正如2022年末基于大模型的人工智能发展，使得当时已经形成较高程度共识的欧盟《人工智能法案》受到挑战，不得不进行修改，专门增加了一章针对通用人工智能模型的管理要求。这突出反映了该法案当时的局限性，体现了相对静态的治理机制回应技术发展的能力不足，因而需要建设更为敏捷动态的治理机制，以增强对变化迅速的科技发展的回应能力。

再次，当前人工智能虽然取得了显著进步，但整体而言仍处在发展早期。科技界对于大模型“智能涌现”现象的理解仍不透彻，用于保障人工智能安全和伦理价值对齐的技术发展更是非常不充分。这种阶段性特征一方面决定了无法要求人工智能立即达到理想的安全可信状态，另一方面也提示我们不能仅以当下的人工智能发展情况来进行评价，而是应该以动态的、发展的眼光来进行系统研判，特别是重视和推动科研群体及掌握先进科技的人工智能企业不断发展技术能力，以不断解决发展中存在的风险问题。

最后，我国人工智能发展虽处在世界前沿，但仍落后于美国。过往的百余年历史让我们深刻体会到科技发展对国家命运的重大影响。面对国际人工智能科技发展可能带来的影响，自身科技的高度发展是维持国家竞争力和国家安全的根本能力。因此，我国必须重视赋能人工智能发展以及安全能力的提升。

综上所述，当前我国人工智能发展的阶段性特征决定了需要赋能型人工智能治理。过去那种通过借鉴先发展国家的经验、在相对充足的信息基础之上进行静态规则制定和治理的模式难以适应当前的人工智能治理需求，应当在包容和普惠赋能的基础上，发展敏捷动态的治理机制和提升治理能力，特别是注重赋能人工智能合规科技、监管科技的同步发展，以不断提升安全能力。

（二）人工智能发展的机遇与挑战

人工智能是引领未来的战略性技术。许多国家都积极抢抓人工智能发展的战略机遇，构筑人工智能发展的先发优势。我国在2017年发布了《新一代人工智能发展规划》（国发〔2017〕35号），以此牵引创新型国家和科技强国建设。在党中央科学决策和国务院规划部署下，我国人工智能产业发展迅速，处于良好的战略机遇期。但同时也要看到，我国人工智能发展还面临一系列挑战。美国在新一轮人工智能发展中仍处在引领地位。根据斯坦福大学发布的研究报告，美国2023年在人工智能领域的投资位于世界首位，高出中国将近8.7倍。由于新一代人工智能仍处于发展初期，其创新发展和应用存在很大的不确定性，依赖数据、算法、算力、产业生态环境、营商环境和社会应用环境等多重因素，人工智能投资必然是高风险活动。只有当期望收益高于期望成本时，理性投资人才可能对创新进行投资。如果人工智能创新活动的成本收益衡量缺乏稳定的良好预期，企业会对重要的投资和研发信心不足，面临是将资金投入人工智能科技还是其他项目的选择。供应链可及性和稳定性、进入市场的门槛、知识产权保护情况和竞争环境等营商环境因素都是市场主体在制定规划时需要考虑的制度要素和社会条件，是国家治理能力、体制机制、社会环境等因素的综合反映。

习近平总书记强调，“科技领域是最需要不断改革的领域”“推进自主创新，最紧迫的是要破除体制机制障碍，最大限度解放和激发科技作为第一生产力所蕴藏的巨大潜能”。从国内来看，还存在一些制约人工智能发展能力的制度问题。第一，在数据汇聚利用方面，目前法律制度中还存在机器学习合理使用规则缺失、反不正当竞争法适用中对数据爬取利用过度限制、公共数据流通利用规则不明确不统一等问题。第二，人工智能产业发展仍存在一些领域市场准入困难、试验区域有限、法律规则模糊、规制成本偏高、侵权责任过重等问题，需要进行责任科学界定和监管机制优化。第三，人工智能创新的知识产权保护制度尚不完善，对于积极研发人工智能价值对齐机制及规制技术的企业缺少有效激励机制。第四，由于一些人工智能应用曾出现安全风险、算法歧视、泄露个人信息、损害劳动者权益等问题，加上社会公众对失业和科技异化的担忧、风险防御能力和监管能力不足等现状，影响了社会对于人工智能的信任，限制了人工智能的应用。此外，从国际上看，美国等一些国家以所谓的“国家安全”名义打压中国信息科技企业，限制其产品和服务，不断升级对中国的芯片出口限制，试图遏制我国在人工智能等前沿科技领域的创新发展，也使我国当前人工智能发展面临严重挑战。

无论是利用好战略机遇，还是应对国内外挑战，都迫切需要面向人工智能发展中能力不足的问题要点，构建赋能型人工智能治理机制，为人工智能创新发展提供更加有利的制度条件，为企业投入人工智能创新提供激励和更加稳定的制度预期。同时，在涉外法治建设中，应建立健全能够有力应对外国遏制和打压的新机制，以此提高我国参与全球人工智能治理体系建设的能力，助力我国人工智能企业和行业抢占创新发展的制高点，为中国式现代化提供强大的科技支撑。

（三）人工智能风险的基本特征

随着人工智能的应用领域不断扩大，人工智能的潜在风险也日益受到社会关注，很多研究对人工智能的风险问题和应对措施展开了积极探索。在构建人工智能风险治理机制时必须注意，人工智能带来的风险具备现代社会意义上公共风险的一些共同特征。

首先，人工智能风险具有公共性和规模性。这种现代社会的公共风险在很大程度上超出了个体风险承担者的直接理解和控制。公民个体通常欠缺对这种公共风险的认知能力、预防能力、谈判能力，因此往往难以在充分理解风险的基础上做出理性选择，完全由公民在意思自治的基础上自担风险的合理性基础被动摇，带来了政府介入和依法治理的必要性。

其次，人工智能风险具有两面性。任何一种创新活动都伴随着未知，在带来风险的同时，也提供着新的发展机遇。吉登斯描述了既包括机会与创新，也包括安全与责任的“风险矩阵”。他指出，“风险不只是某种需要进行避免或者最大限度地减少的负面现象；它同时也是从传统和自然中脱离出来的、一个社会中充满动力的规则”；“机会与创新是风险的积极一方”，“对风险的积极参与是社会与经济动员的一个必要成分”。例如，辅助驾驶和自动驾驶技术在可能带来新型交通事故风险的同时，也可能极大减缓因人类驾驶员的疲劳驾驶、反应迟缓等情况造成的风险，从总体上提高交通安全。因此，对风险的态度伴随着价值判断，融合着针对一个事物或行为的收益和损害所进行的判断和比较。在对损害可能规模发生之概率的理性计算的基础上，风险可能成为提供给人们的机会。我们要以辩证观念和辩证思维正视人工智能风险的两面性，促进科技创新对社会的正面价值和积极意义。

最后，人工智能风险具有一定的可控制性。人工智能带来的风险是一种“人为风险”。社会之所以允许这种人为风险存在，一方面是因为其具有两面性、能带来促进社会发展的积极意义；另一方面是因为人们相信这种风险在很大程度上能够通过对于人们活动的引导和规范来从结构上得到控制，社会可以通过有意采取的预防性行动以及制度化措施克服发展带来的副作用。现代社会生活具有反身性。社会实践总是不断受到关于这些实践本身的新认识的检验和改造，从而在构成上不断改变着自己的特征。我们应努力提升认识和防控人工智能风险的能力，将其作用于社会并改变风险的样态。

从人工智能风险的特征和发生及控制规律的认知出发，我们“需要抵御风险的保障，但也需要具有面对风险并以一种积极的方式来对待风险的能力”。风险的两面性决定了治理目标的双重性。我们需要关注风险中蕴含的机遇，通过实施赋能型治理，在发展中提升社会认知和防控人工智能风险的能力，使得人工智能发展成果切实服务于人类福祉的提升。

（四）人工智能治理能力的现存缺陷

当前社会在人工智能风险的认知和评估能力、社会监督能力、企业内部自治能力、政府外部监管能力等方面普遍不足，需要以“赋能”为核心，加强人工智能时代所需要的治理能力建设。

首先是对人工智能风险的认知和评估能力不足，社会监督能力欠缺。全面认识和把握人工智能风险是进行风险治理的重要基础，但由于人工智能的风险信息不充分、不及时，企业、社会公众、政府主管部门等各类主体往往对人工智能新技术新应用的风险缺乏清晰认知，以致出现对人工智能风险产生掉以轻心或过度恐惧的两极分化。目前，存在对人工智能风险的认知、评估和监督的能力缺陷，主要有三方面原因：一是人工智能自身的复杂性。人工智能具有“黑箱性”、一定程度的“自主性”、运行结果的难预测性、运行机理的难解释性、可能根据环境变化的自适应性以及高速迭代更新发展等特性，这些都为风险认知、评估、监督和防控提出了挑战。二是人工智能的社会应用广泛。人工智能广泛应用在社会生活的方方面面，其风险识别和评估不仅需要人工智能科技专家参与，还需要应用领域的专家、法学家、伦理学家、社会学家等共同参与，以更全面地评估人工智能在整体上以及具体场景中所产生的影响。三是数字鸿沟问题加剧。当前社会公众对人工智能的理解和运用能力差别非常大，这既影响到人工智能科技的普惠应用，也使得欠缺理解的群体在人工智能风险面前更为脆弱。这三方面都决定了需要面向人工智能治理进行针对性的能力建设。

其次是企业对人工智能风险的自治能力不足。企业作为人工智能的主要研发者、部署者，具有在其研发部署过程中针对可能的风险采取自我治理的机会。然而大量企业特别是中小微企业的自治能力有限，缺少必要的技术措施和管理措施储备，往往难以将人工智能伦理规范和治理原则转化为有效的具体措施。当前，能够提升人工智能的安全性、准确性、稳健性、可解释性、公平性、包容性等的技术还需要大力创新发展，加上技术的研发和实施成本过高，企业也往往怠于自治。还有许多人工智能企业算力资源不足、高质量训练数据欠缺，这也制约了企业有效自治的能力。

最后是政府科学监管和促进发展的能力不足。一方面，科学有效的监管需要理论支撑、机制建设和技术赋能。关于人工智能发展情况及规律、人工智能风险以及有效的风险治理方法的信息不充分、不对称，加上资源不足、工具匮乏等问题，使得政府监管方式的可操作性、有效性和合理性都容易受到质疑和挑战。面对新兴科技的新型治理理念的实现，更加需要国家的基础设施与行政能力予以辅助，包括信息汇集与科学分析能力、风险判断能力、吸纳市场积极要素的能力等。另一方面，从政府角度促进人工智能发展也亟待能力建设。算力、数据等要素以及测试、评估、认证等服务的提供都需要必要的制度支撑。政府推动人工智能在民生服务、社会治理、经济发展等领域的融合应用也需要建设相匹配的新型风险治理能力，以保障其可持续发展。

因此，针对人工智能治理的现存缺陷，必须构建赋能型治理，建设高水平治理能力，以此推进人工智能高质效地安全可信发展。

（五）既有人工智能规制模式的局限

既有的规制模式和理论，为人工智能治理提供了有益参考。但面对新一代人工智能发展态势，其局限性逐渐显露出来。

既有规制模式主要包括命令—控制型规制、建议劝服型规制、回应型规制、元规制等，可从规制者、规制对象、命令类型和后果类型等方面考察其差异。命令—控制型规制通常事先制定具体的特定命令，而违反的后果通常是比较强的制裁。但理想中这种模式下的命令应具有较高的规则精确性，在人工智能仍高速发展的当下难以实现。建议劝服型规制模式主张建立合作而非对抗的局面，命令形态往往是一般性的目标，主要依赖企业自我规制，但在企业利益驱动面前往往效果大打折扣，在人工智能领域更是存在算法黑箱等诸多问题。因此，这两种规制模式都难以取得理想效果，以致陷入“科林格里奇困境”。许多研究者在这两极之间寻找更加综合性、动态性的规制模式。回应型规制旨在弥合强监管和放松监管之间的鸿沟，设想规制活动发生于对话式、交互性的环境中，规制者通常优先采用干预性较低的措施，但如果措施失灵，规制者就会逐步采取更具有惩罚性或强制性的措施。其最突出的特点即后果的动态回应性。回应型规制模式可派生出很多具体形式，常与元规制相结合。元规制即对企业自我规制的规制。政府通过提出一般性目标的命令来要求和塑造企业内部的自我规制，调动企业的主观能动性，让企业凭借自身掌握的信息和科技能力来制定适当的具体规范，并由外部规制中的法律后果来提供行为激励。这种规制模式在数字科技领域得到了较多应用。但其成功条件在于，政府作为外部规制者需要建立获得风险情况、企业采取的规制措施的成本和实效、行业中相关技术发展水平等一系列关键信息的能力，并能够提供合理的惩戒和激励机制，才能在保障发展的同时有效地激励企业积极开展自我规制，同时企业也需要具有在合理成本内有效实施自我规制的信息、资源和能力，并要特殊考虑中小微企业的自我规制能力问题。例如，“信息对称性”原本是自我规制的重要优势，但面对高速发展的人工智能，企业实际上也难以充分掌握人工智能新应用的风险情况和有效措施等信息。因此，这类规制模式在人工智能领域的适用对相关能力建设提出了更高要求。

上述各种规制模式形成了从最严格到最宽松的谱系，为人工智能规制提供了重要的基础，特别是在回应型规制和元规制模式的基础上，研究者们对寻找与人工智能治理相适配的规制模式进行了许多积极探索，但在理念上尚缺乏对人工智能安全可信发展所亟需的各项能力建设的突出强调，即缺少对于“赋能”这一维度的着重考虑。在人类社会迈向智能时代、但安全可信发展能力尚待建设的现阶段，有效的规制状态不可能一蹴而就，需要从对基础的规制模式讨论升级至对能力建设的研究，明确“赋能”这一目标，实现良好规制的切实落地。

综上所述，当前人工智能产业发展需要赋能，形成安全可信的技术和保障体系更加需要赋能。安全不只是一种状态，更是一种能力。我国《国家安全法》将国家安全定义为“国家政权、主权、统一和领土完整、人民福祉、经济社会可持续发展和国家其他重大利益相对处于没有危险和不受内外威胁的状态，以及保障持续安全状态的能力”。这种安全能力观在我国数字科技领域的立法中也得到突显。《网络安全法》将网络安全定义为“使网络处于稳定可靠运行的状态，以及保障网络数据的完整性、保密性、可用性的能力”。《数据安全法》将数据安全定义为“确保数据处于有效保护和合法利用的状态，以及具备保障持续安全状态的能力”。从这些定义中可见“能力”的重要性。同时，这三部法律也都明确了促发展的目标，这不仅是出于平衡考虑，更是因为真正的安全应该是也只能是建立在高度发展之上的安全。

在当下阶段，不发展是最大的不安全。人工智能治理的目标不是简单追求一个局部性、临时性的假性安全状态，而应该是追求达到一个拥有高度发达的科技水平和保障持续安全可信能力的状态，应以此为目标构建推动能力提升的有效治理机制。因此，赋能型人工智能治理的核心要义在于以赋能为核心，通过科学有效的治理，实现高度的人工智能发展水平和保障持续安全可信状态的能力，即针对人工智能安全可信发展中的重要能力建设需求，通过治理实现如下方面的赋能：第一，赋能企业创新发展，提高我国企业和人工智能行业整体竞争力，特别是增强发展要素的普惠赋能，包括对数据要素、算力要素、算法要素、制度要素的协同赋能。第二，赋能企业可信规制，特别是注重风险管理能力的普及发展，使得大中小型企业都能够开展有效的自我管理，从源头防控人工智能研发运用的伦理风险和安全风险。第三，赋能政府有效监管，特别是积极发展和推广用于人工智能治理的相关技术，实现人工智能治理技术的创新突破。第四，赋能社会公众平等受益于人工智能的发展，使社会公众有效地参与人工智能治理，提升社会公众对人工智能发展的信任度，营造有利于人工智能可信发展的社会环境。第五，赋能我国深度参与全球人工智能治理体系建设，为推进全球人工智能治理体系现代化提供中国经验、中国智慧和中国力量。