郑石桥║论算法审计结果及其运用

【摘要】算法审计涉及诸多基础性问题，本文聚焦算法审计结果及其运用这一重要的基础性问题，以经典审计理论为基础，提出算法审计结果及其运用的一个理论框架。算法审计结果包括算法审计发现、算法审计结论、算法审计建议和算法审计信息四种类型，各类算法审计业务都可能产生这些审计结果。算法审计结果的运用者是资源类委托代理关系中的委托人、代理人、审计机构和其他利益相关者，在不同的算法委托代理关系中，上述四者不同。

【关键词】算法审计结果；算法审计发现；算法审计结论；算法审计建议；算法审计信息

【基金项目】国家社会科学基金重大项目“百年审计理论创新研究”(项目编号：21&ZD027)

人工智能(AI)已成为现代经济社会发展的重要驱动力之一，在提升生产效率、优化服务质量、推动技术创新、改善生活品质等方面发挥了显著作用。算法是人工智能的灵魂，其赋予人工智能系统以学习、理解和执行任务的能力，从而推动智能系统的进化和应用。然而，算法也带来需要人类认真对待的负面问题。为了应对这些负面问题，必须建构算法治理体系，算法审计是这个体系的重要成员，其基于审计固有功能在应对算法负面问题中发挥重要作用。

算法审计真正发挥作用的前提是建构科学的算法审计制度，正确认知算法审计各基础性问题是科学建构算法审计制度的前提，算法审计涉及的基础性问题较多，本文聚焦算法审计结果及其运用。现有文献中，算法审计结果及其运用相关研究刚刚起步，整体来说，算法审计结果及其运用的理论框架尚未形成。本文以经典审计理论为基础，提出算法审计结果及其运用的一个理论框架，以深化人们对算法审计结果及其运用的认知，并为建构和完善算法审计结果及其运用相关制度提供理论参考。

二、文献综述

一些文献涉及算法审计结果及其运用，本文将相关内容归纳为两类，一是对算法审计结果的要求及对算法审计结果运用状况和运用要求的分析，二是算法审计结果公开及其效果。

1. 对算法审计结果的要求及对算法审计结果运用状况和运用要求的分析。一些文献对算法审计结果提出了要求。DRCF(2022)提出，算法审计的主要输出可能是一份详细说明审计方法和评估结果的报告。Khoa Lam等(2023)提出，外部合规和确认的算法审计同样旨在向利益相关者保证算法系统是以负责任和透明的方式设计、构建、部署和管理的。

一些文献提出了对算法审计结果运用状况的看法。部分文献认为，算法审计结果运用产生了积极的作用。Abeba Birhane等(2024)认为，对人工智能系统的表现及影响进行评估是增强人工智能责任的有效手段。然而，人工智能审计是否真的有效果并无定论，为此，他们分析了律师事务所、民间组织、记者、科学家和咨询机构所实施的算法审计(都是算法影响评估)，结果发现这些算法审计都在特定的场景中发挥了作用，因此他们认为算法审计是强化算法责任的有用机制(a meaningful mechanism for accountability)。也有一些文献对算法审计的效果持怀疑态度。Raji等(2020)认为，审计结果有时会受到怀疑，因为它们依赖于人类的判断，且容易受到人类判断的影响。Merrer等(2022)认为，审计结果的法律价值不确定。Abeba Birhane等(2024)认为，人工智能审计研究结果并没有始终如一地转化为监管系统更具体的目标，例如影响自愿的公司行动或内部公司政策，导致产品召回，为产品的重新设计提供信息，以及以标准、禁令、限制或暂停使用的形式制定更广泛的政府政策和监管制度。

一些文献提出了如何运用算法审计结果的建议。庄尚文和陈王薏(2021)提出算法审计结果的两个运用机制： 一是对于行政领域的算法权力滥用问题，审计机关可直接做出处理，如果算法权力滥用涉及经济犯罪，审计人员有权将被审计单位移交司法机关处理；二是当平台企业滥用算法行为被审计监管系统发现时，审计人员可约谈相应企业的高管层。张永忠和张宝山(2022)提出算法审计结果的三种运用场景： 一是在检测出算法异化时，审计师有权要求被审计单位对此进行说明并加以改正，被审计单位在经过沟通后仍然拒绝改正的，审计师应当出具否定意见的审计报告并向有关机关报告审计结果，请求其对相关问题进行处理；二是审计报告可以作为有关机关做出行政处罚的依据；三是算法审计的结果可以作为被侵权人提起侵权诉讼、有关组织提起公益诉讼的依据。黄新华和温永林(2023)认为，要基于审查结果，在实践中督促算法主体落实算法影响评估责任，提高算法主体内部的算法风险管理能力，当算法影响评估未能纠正或消除存在风险的算法系统时，政府还应建立救济机制，为受影响的个人或群体提供救济。王兆毓(2023)提出，对算法侵害做出更有力的回应是算法审计制度的价值基础。

2. 算法审计结果公开及其效果。算法审计结果公开是其结果运用的重要方式，由于其重要性，本文单独作为一个话题进行综述。

有的文献分析了算法审计结果不公开所产生的不良后果。Khoa Lam等(2023)认为，大多数算法审计都没有向公众公布结果或程序，这通常是由于与客户签订了保密协议。许多拟议的人工智能审计法规也不要求披露审计结果。这种缺乏透明度的情况可能会使审计失去效力，从而逐渐降低问责制的效力。因为接受审计的组织既没有通过公共压力也没有通过监管执法来实施激励，从而推动有意义的变革。

有的文献分析了算法审计结果公开可能产生的积极效果。DRCF(2022)提出，针对这些潜在风险和故障的发现，组织可以采取有针对性的缓解策略。如果一个组织在审计中发现问题后没有采取行动改进其系统，那么在报告被暴露于公众监督之下后，公众、倡导团体、学者或记者等就可以对该组织提出疑问并施加压力。在监管机构可以获得审计结果的情况下，监管机构可以在其职权范围允许的情况下跟进进一步的调查或执法活动，使受算法系统结果伤害的各方能够获得补救。

有的文献分析了算法审计结果公开已经产生的积极效果。Raji和Buolamwini(2022)以Gender Shades(一个使用较为广泛的人工智能分类系统)为研究对象，对使用这个系统的一些公司(称为目标公司，包括IBM，Microsoft和Megvii)进行为期7个月的算法审计(评估其分类结果是否存在偏见)，将这些公司的分类结果与未进行算法审计的其他公司(称为非目标公司，包括Amazon和Kairos)进行比较，结果发现： 第一，三个目标公司都对原来的Gender Shades系统进行了改进，而两个非目标公司继续使用原来版本的Gender Shades系统；第二，在审计期间，三个目标公司的分类错误率显著低于两个非目标公司。Raji和Buolamwini(2022)认为，产生这些差异的主要原因是，向社会公开算法审计结果给目标公司形成了压力。

3. 简要述评。上述文献显示，有关算法审计结果及其运用的研究才刚刚起步，关于什么是算法审计结果、谁来运用算法审计结果、如何运用算法审计结果等基础性问题的研究尚不多见。整体来说，有关算法审计结果及其运用的理论框架尚未形成。

三、理论框架

本文的目的是以经典审计理论为基础，提出算法审计结果及其运用的一个理论框架。为此，首先要梳理算法委托代理关系；在此基础上，勾画算法审计结果及其运用的基本框架；然后，分别分析各类关系中的算法审计结果运用。

1. 算法委托代理关系。根据经典审计理论，审计结果的运用者是资源类委托代理关系中的委托人、代理人、审计机构和其他利益相关者(郑石桥，2021)，因此，分析算法审计结果及其运用，必须先梳理算法委托代理关系。由于算法技术的复杂性，其涉及的利益相关者较多，这些关系主体之间都存在一定程度的信息不对称，根据信息经济学，他们之间的关系都属于委托代理关系。简要的关系如图1所示。

图1中共有8种具体情形的委托代理关系。关系1和关系8是资源类委托代理关系，在这些关系中，委托人将资源交付给代理人，并明确代理人要履行的职责，代理人对委托人承担的责任中包括算法责任。关系1是经典的资源类委托代理关系，特殊之处在于代理人在履行经管责任时使用了算法，算法的状况对其经管责任的履行有重要影响，虽然代理人可以将算法开发和营运委托给他人，但是最终的责任还是由其自身承担，因此，关系1中的代理人对算法负有全部责任。关系8是政府与其设立的算法监管部门的关系，这个关系中代理人的主要职责是算法监管，因此，算法监管责任是其经管责任的重要内容。

关系2是作为算法使用者的代理人与算法相对人之间的关系。通常来说，代理人是在履行其经管责任时与算法相对人发生交易关系，只是在这种交易中使用了算法，作为算法相对人的交易对方如果不同意代理人提供的算法，则会终止交易。因此，如果交易发生了，则视同算法相对人同意代理人提供的算法，当然，如果承诺提供的算法与实际使用的算法不一致，则代理人要承担违约责任。整体来说，关系2中是合约类委托代理关系，不存在算法审计需求。当然，这并不排除算法相对人关注甚至运用关系1中针对代理人使用的算法的审计结果。

关系3是作为算法使用者的代理人与算法开发者的关系(如果代理人具备算法开发能力，则算法开发者与使用者合而为一，关系3消失)，二者之间的合约中会对算法提出要求，但由于技术方面的原因，代理人可能难以在算法开始使用时检验算法是否符合合约要求，需要在算法的使用中根据算法是否出现问题来检验，因此，算法开发者对代理人承担了算法开发责任。关系4是作为算法使用者的代理人与算法营运者的关系(如果代理人具备算法营运能力，则算法营运者与使用者合而为一，关系4消失)，二者之间同样存在算法营运合同，对于算法的营运会提出要求，但只能根据算法营运过程中是否出现问题来检验算法营运者是否按要求履行了合约，因此，算法营运者对代理人承担了算法营运责任。由于算法开发者和算法营运者对代理人分别承担了算法开发责任和算法营运责任，关系1中针对代理人的算法审计会延伸到关系3中的算法开发者和关系4中的算法营运者，二者也成为关系1中的算法审计客体。

关系5、关系6和关系7是政府设立的算法监管部门对算法开发者、算法使用者(代理人)和算法营运者的算法责任进行监管。在这种关系中，算法监管部门只能按算法监管相关法律法规规定的内容和程序进行监管，而被监管者则必须按规定接受和配合监管，因此，算法监管相关法律法规发挥了类似完备合约的作用，这种关系中并不存在算法审计需求。当然，这并不排除算法监管部门关注甚至运用针对这些被监管者的算法审计结果。

概括而言，在算法相关委托代理关系中，关系1和关系8是资源类委托代理关系，存在算法审计需求，当然也就存在算法审计结果及其运用。其中，关系1中的算法审计会延伸到关系3和关系4中。其他各类关系并不是资源类委托代理关系，因此，不存在算法审计需求，当然也就不存在算法审计结果及其运用(郑石桥，2024a)。下面，本文首先勾画算法审计结果及其运用的基本框架，然后分别分析关系1和关系8中的算法审计结果运用。

2. 算法审计结果及其运用的基本框架。根据经典审计理论，审计结果通常包括审计发现、审计结论、审计建议和审计信息四种类型。算法审计结果的基本框架如表1所示。

表1中的算法审计发现是指基于获得的证据对每个算法审计事项与既定标准的偏离做出的判断，通俗地说，就是对算法审计事项进行审计时所发现的问题。例如，输入数据来源不合法，输入数据不真实，输入数据存在偏向，算法设计不合法，算法设计存在安全漏洞，算法设计响应时间、吞吐量和资源消耗缺乏效率，算法结果存在偏见等都是可能的审计发现。算法审计事项是算法审计标的与算法审计具体目标(也称为审计命题)的组合，全部算法审计标的和全部具体审计目标组合形成算法审计事项清单。算法审计方案就是围绕算法审计标的及其分解形成的审计事项来设计并执行的，因此，算法审计发现来源于每个算法审计事项，所有的算法审计发现按一定的方法累积起来，与算法审计重要性相比较，是确定算法审计结论的基础。从逻辑上来说，算法审计事项不存在与既定标准的偏离也是一种算法审计发现。

表1中的算法审计结论，是以算法审计发现为基础，对算法审计事项、算法审计标的和算法审计主题与既定标准的相符程度做出的判断。单个算法审计事项可以形成审计结论，某个算法审计标的可以形成审计结论，某个算法审计主题作为一个整体可以形成审计结论，此时的审计结论也称为算法审计意见。例如，针对作为算法使用者的代理人进行算法审计时，可以分别对输入数据、算法设计和算法影响形成审计结论，在此基础上，还可以对算法系统形成审计结论。

表1中的算法审计建议，是算法审计机构在分析算法审计所发现问题产生原因的基础上，所提出的解决问题的建议。这些建议通常是针对算法系统的优化而提出的，通过优化算法系统，降低以后再出现同类问题的可能性。

表1中的算法审计信息，是算法审计机构根据审计中发现的重大问题，向有关领导、有关部门和单位等及时提出的专门报告，以便于相关人员和机构及时关注这些算法问题。

上述算法审计结果，就其载体来说，算法审计发现、算法审计结论和算法审计建议主要体现在算法审计报告中，其中算法审计建议也可以独立出来形成算法审计建议书，而算法审计信息通常以审计信息专报的方式出现。

上述算法审计结果产生于各类算法审计业务，针对算法开发者的算法开发责任审计、针对算法营运者的算法营运责任审计和针对算法使用者的算法全面责任审计都可能产生这些结果。同时，针对算法监管部门的算法监管责任审计也可能产生这些算法审计结果。

上文介绍了算法审计结果的基本框架，那么，这些审计结果由谁来运用呢？根据经典审计理论，审计结果的运用者是资源类委托代理关系中的委托人、代理人、审计机构和其他利益相关者，这里的其他利益相关者是指不属于委托人、代理人和审计机构，但仍然可能关注针对审计客体的审计结果的机构(郑石桥，2021)。根据该原则，图1所示算法委托代理关系中的算法审计结果运用者的基本框架如表2所示。下面，本文具体分析这些关系中的算法审计结果运用者如何运用算法审计结果。

3. 关系1及其延伸关系中的算法审计结果运用。关系1是经典的资源类委托代理关系，特殊之处在于这种关系中的代理人在履行其经管责任时依赖于算法，并且将算法的开发和营运委托给其他专业机构，所以，实质上是作为算法使用者的代理人与关系3中的算法开发者、关系4中的算法营运者共同向关系1中的委托人承担算法责任，关系1中针对代理人的算法审计也延伸到关系3中的算法开发者和关系4中的算法营运者，二者与关系1中代理人共同成为针对关系1中代理人的算法审计的审计客体(郑石桥，2024b )。

关系1中作为算法使用者的代理人、关系3中的算法开发者和关系4中的算法营运者共同作为算法审计的审计客体，算法审计发现的问题事实上是他们在履行算法责任中存在的问题，所以，他们在算法审计结果运用中应当承担主体责任。第一，根据算法审计结果性文书中指出的审计发现问题进行审计整改，如果有必要，对这些问题的责任人进行责任追究。第二，作为算法审计整改的主体责任单位，有责任报告算法审计整改结果，如有必要，还需要向社会公开其算法审计整改结果。第三，关系1中的代理人也可能将算法审计作为信号传递机制，此时，如果算法审计结果是正面的，则有可能向社会公开算法审计结果，让社会公众特别是算法相对人相信其使用的算法(现实生活中一些平台公司聘请专业公司对其算法进行鉴证并公告鉴证结果就是这种情形的典型代表)；关系3中的算法开发者和关系4中的算法营运者也可能将正面的算法审计结果向社会公开，以增强社会对其算法专业胜任能力的信任，提升其市场竞争力。第四，关系1中的代理人作为算法使用者会将算法审计结果用于评价算法开发者的算法开发责任履行情况以及算法营运者的算法营运责任履行情况，甚至作为双方结算的重要参考依据。

关系1中的算法审计机构在算法审计结果运用中承担督导责任。第一，在获得授权时，以适当的方式在适当的范围公开算法审计结果，对算法审计客体形成压力，促使他们致力于对审计发现问题的整改；第二，在获得授权时，对算法审计发现的问题做出处理处罚决定(包括对问题责任人的处理处罚)，并要求算法审计客体执行；第三，督促检查算法审计客体对其存在问题的整改情况，获得授权时，将审计整改情况向社会公开。

关系1中的委托人作为算法审计的主要需求者，当然会关注针对代理人的算法审计所发现问题的整改情况： 一方面，会将算法审计发现问题及其整改情况纳入对代理人经管责任履行情况的整体评价中；另一方面，会将算法审计发现问题及其整改情况作为与代理人相关决策的参考依据(例如，是否继续聘用代理人)。

此外，还有一些其他利益相关者会运用针对关系1中代理人的算法审计结果。首先，关系2中的算法相对人在与关系1中代理人的交易中使用算法，算法状况会影响算法相对人的利益，同时，代理人在与算法相对人的交易中对算法有一定的承诺，算法相对人可以根据算法审计结果来判断代理人承诺的算法与实际使用的算法是否存在差异，如果发现存在差异，算法相对人可以起诉代理人的违约责任。其次，算法监管部门作为代理人(算法使用者)、算法开发者和算法营运者的监管者，当然会关注算法审计结果，甚至根据算法审计结果启动算法监管行动，对未遵守算法相关法律法规的行为进行处置。

4. 关系8中的算法审计结果运用。关系8是本级政府与其设立的算法监管部门的关系。对于针对算法监管部门的算法监管责任的审计结果，算法监管部门作为审计客体，对于算法审计发现的问题要承担整改的主体责任，这与其他类型的审计整改并无显著区别。第一，要制订整改方案并实施整改，同时，将整改结果报告给本级政府审计机关，根据审计整改制度安排，还可以向社会公告审计整改结果。第二，对于审计发现问题的责任人，要根据相关法律法规进行责任追究。第三，根据法律法规的要求，向社会公告审计整改情况。

关系8中的审计机构通常是本级政府审计机关，其在针对算法监管部门的审计结果运用中主要发挥督导作用。第一，获得授权时，向社会公告审计结果。第二，获得授权时，对审计发现问题的责任人进行处理处罚。第三，审核算法监管部门的审计整改方案，检查其执行情况，并对整改情况进行验收。第四，获得授权时，对算法监管部门的整改绩效进行评价。第五，推动将算法监管部门的审计发现问题及其整改情况纳入对算法监管部门主要领导的考核评价之中。

关系8中的本级政府是算法监管部门的委托人，针对算法监管部门的算法监管责任履行情况审计所发现的问题，事实上是其责任履行中存在的问题，实质上是未能最大善意地履行其承担的经管责任，因此，本级政府应该积极运用针对算法监管部门的审计结果。第一，督促算法监管部门进行审计整改。第二，根据法律法规的规定，对问题责任人进行处理处罚。第三，建构制度，将审计发现问题及其整改情况纳入对算法监管部门主要领导的考核评价之中。

此外，还有一些其他利益相关者也会关注针对关系8中的算法监管部门的审计结果。第一，关系1中的代理人(算法使用者)、关系3中的算法开发者、关系4中的算法营运者，他们都要接受算法监管部门的监管，当然会关注针对算法监管部门的审计结果，尤其会关注其算法监管行为是否存在违法违规问题。第二，关系1中的委托人，其权益直接受其代理人及延伸的算法开发者、算法营运者的算法责任履行情况的影响，而算法监管部门的监管责任履行情况会影响这些算法责任人的算法责任之履行，所以，委托人也会关注算法监管部门的监管职责履行情况。第三，关系2中的算法相对人，其利益受到代理人提供的算法的影响，所以，代理人(算法使用者)、算法开发者和算法营运者的算法相关行为直接影响算法相对人的利益。而算法监管部门的算法监管职责履行情况对这三者的算法相关行为有重要影响，因此，算法相对人也会关注针对算法监管部门的审计结果，尤其会关注其是否依法尽职履行算法监管职责，因为这是算法相对人合法权利的保障。

四、结论

正确认知算法审计的各基础性问题是科学建构算法审计制度的前提，本文聚焦算法审计结果及其运用这一重要的基础性问题，以经典审计理论为基础，提出算法审计结果及其运用的一个理论框架。

由于算法技术的复杂性，其涉及的利益相关者较多，算法委托代理关系包括多种具体情形。关系1、关系8是资源类委托代理关系，存在算法审计需求，当然也存在算法审计结果及其运用，关系1中的算法审计客体还会延伸到关系3中的算法开发者和关系4中的算法营运者。关系2是合约类委托代理关系，关系5、关系6和关系7是监管类委托代理关系，这些关系中都不存在算法审计需求，也就不存在算法审计结果及其运用。

算法审计结果包括算法审计发现、算法审计结论、算法审计建议和算法审计信息四种类型，各类算法审计业务都可能产生这些审计结果。算法审计结果的运用者是资源类委托代理关系中的委托人、代理人、审计机构和其他利益相关者，不同的算法委托代理关系中，上述四者不同。关系1及其延伸关系中，关系1中的代理人(算法使用者)、关系3中的算法开发者和关系4中的算法营运者共同作为算法审计的审计客体，在算法审计结果运用中应当承担主体责任；算法审计机构在算法审计结果运用中承担督导责任；委托人作为算法审计的主要需求者，当然会运用针对其代理人(算法使用者)的算法审计结果；其他利益相关者包括算法相对人和算法监管部门。

关系8中的算法监管部门作为审计客体，对于算法审计发现的问题要承担整改的主体责任；关系8中的审计机构通常是本级政府审计机关，在针对算法监管部门的审计结果运用中主要发挥督导作用；关系8中的本级政府是算法监管部门的委托人，当然会运用针对其代理人的算法审计结果；关系8中的其他利益相关者包括关系1中的委托人和代理人(算法使用者)、关系2中的算法相对人、关系3中的算法开发者、关系4中的算法营运者。

责任制作：何影婷  穆莎丽
责任编校：许春玲  李小艳
责任政审：张瑾  李珂