编程按：
英文原文由隶属于美国商务部的国家标准与技术研究院（National Institute of Standards and Technology，NIST）于2023年1月份发布，版本信息是1.0版本。本期是连载的第二期。
![]()
识别和管理人工智能风险和潜在影响——无论是积极的还是消极的——需要人工智能生命周期中的广泛参与者和不同的观点。在理想情况下，人工智能的参与者应当拥有不同的经验、不同的专业知识以及多元的背景，包括学科领域的多样性。人工智能风险管理框架（AI RMF）致力于能够被人工智能不同生命周期中的参与者广泛使用。经济合作发展组织（OECD）已经开发了一个框架，根据五个关键的社会技术维度对人工智能生命周期活动进行分类，每个维度都具有与人工智能政策和治理（包括风险管理）相关的属性。国家标准与技术研究院（NIST）的修改强调了测试、评估、论证和验证（TEVV）过程在人工智能不同生命周期中的重要性，并将人工智能系统的运营进行概括化。人工智能的维度包括应用场景、数据和输入、模型、任务和输出。这些维度的参与者，他们执行或管理人工智能系统的设计、开发、部署、评估和使用，并成为推动人工智能风险管理的主力军，他们也是AI RMF的主要受益者。在生命周期维度中具有代表性的人工智能参与者将在本文附录A中给出详细的描述。在AI RMF中，所有参与者共同努力来管理风险并实现值得信赖和负责任的人工智能目标。具有TEVV特定专业知识的参与者将贯穿于人工智能的整个生命周期，特别有可能从AI RMF中受益。定期执行的TEVV任务可以提供与技术、社会、法律和道德标准或规范相关的见解，并可以协助预测影响以及评估和跟踪新兴风险。作为人工智能生命周期内的常规过程，TEVV允许中途修正和事后风险管理。代表了人权以及更广泛的社会和地球福祉。这个维度中的参与者构成了AI RMF的另一部分受益群体，他们为其他的受益者们提供信息。这些参与者可以包括行业协会、标准制定组织、研究人员、倡导团体、环保组织、民间社会组织、最终用户以及可能受到直接影响的个人和社区。这些参与者可以：- 成为人工智能风险管理的正式或准正式规范和指导的来源；- 划定人工智能操作的技术、社会、法律和道德界限；- 促进讨论需要权衡的社会价值和优先事项，以保护公民自由和权利、公平、环境和地球、经济等方面。成功的风险管理取决于人工智能参与者之间的集体责任感。AI RMF的相关功能会在本文的第5节中给出描述，并且需要多样化的观点、学科、专业和经验。多样化的团队有助于更开放地分享关于技术目的和功能的创意和假设——使这些隐含的方面更加明确。这种更广泛的集体视角为发现问题和识别现有和新兴风险创造了机会。
为了使人工智能系统值得信赖，它们通常需要满足多方关注的标准，这些标准对利益相关方具有价值。增强人工智能可信度的方法可以减少人工智能的负面影响。AI RMF阐述了可信人工智能的特征，并提供了解决可信问题的指引。可信人工智能系统的特征包括：有效且可靠、安全、有保障且有弹性、可追责且透明、可解释和可理解、增强隐私以及公平且管理不利的偏见。创建值得信赖的人工智能需要根据使用的背景来平衡这些特征。虽然所有特征都具有社会技术系统的属性，但可追责且透明的特征还涉及到人工智能系统内部及其外部环境的活动。忽视这些可能会增加引发负面影响的可能性及严重性。有效且可靠是人工智能系统可信度的必要条件，被展示为其他可信特征的基础。可追责且透明被展示为一个垂直框架，因为它与所有其他特征相关。可信的特征与社会和组织行为密切相关，与人工智能系统使用的数据集、模型和算法的选择密切相关，与构建它人工智能系统的人为决策密切相关，与提供见解和监督人工智能系统的人类活动密切相关。在决定与人工智能可信特征相关的特定指标和指标的精确阈值时，需要运用到人们的判断。单独解决人工智能可信的特征并不能确保人工智能系统的可信；通常涉及不同特征之间的权衡，很少会出现所有特征在每个环境中都适用的情况，有些特征在特定情况下可能更重要或更不重要。最终，可信是一个社会概念，其强度只取决于其最弱的特征。在管理人工智能风险时，组织可能面临在平衡这些特征时做出困难决定的挑战。例如，在某些情况下，为了提高可解释性而牺牲隐私的决定可能会出现。在其他情况下，组织可能面临预测准确性和可解释性之间的权衡。或者，在某些条件下（比如数据稀疏），隐私增强技术可能导致准确性损失，影响在某些领域关于公平和其他价值的决策。做出权衡需要考虑做出决策的背景。有些分析可以突出不同措施之间的利弊及其影响程度，但这些分析并无法回答如何做出权衡。这取决于相关背景下的价值观，并应以透明且适当合理的方式加以解决。有多种方法可以增强人工智能生命周期中的情境意识。例如，情境专家可以协助评估TEVV，并与产品和部署团队合作，将TEVV的参数与要求同部署条件进行对齐。在配置合适的资源时，增加来自利益相关方和人工智能参与者的广泛且多样化的输入，能够增强对情境敏感的评估，并有助于识别人工智能系统的益处和积极影响。这些做法能够适当管理在社会背景下产生的风险。理解和处理可信的特征取决于参与者在人工智能生命周期中的特定角色。对于任何给定的人工智能系统，设计者或开发人员可能与部署者对待可信的特征有不同的感知。本文解释的可信特征之间是相互影响的。高度安全但不公平的系统、准确但不透明且不可解释的系统，以及不准确但安全、隐私增强且透明的系统，诸如此类的人工智能系统都是不可取的。全面的风险管理方法要求在这些可信的特征之间寻求平衡。确定人工智能技术是否在特定的场景下适用，目的是否适当，以及如何负责任地使用人工智能，这是所有参与者的共同责任。关于部署人工智能系统的决定，应当基于对可信的特征以及风险、成本、负面影响、正面益处等多维度的评估，并且由广泛的利益相关方提供足够的信息。为加强《上财风险管理论坛》杂志的作者团队与读者之间、以及读者相互之间的沟通与交流，已建立《上财风险管理论坛》读者交流微信群，目前成员接近1200人，包括知名金融机构的首席风险管理、风险管理部负责人、风险管理领域知名学者等专业人士，竭诚欢迎广大的风险管理从业者加入该微信群，共同打造一个讨论风险管理的专业社区。如希望入群，烦请给本微信公众号留言（留下个人微信号），我们将会主动联系并且邀请入群！
为了积极推进AI大模型在金融尤其是风险管理领域的落地，创建了“衍生品、风控与AI大模型社区”微信群，目前成员接近1300人，包括了金融机构高管、AI大模型科学家等，致力于打造一个集学习、讨论金融衍生产品、风控以及用AI大模型实现前两者功能的开发社区！如希望加入，请留下个人微信号，我们将主动联系并邀请入群！
【译作】人工智能风险管理框架（连载之一）【洞见】关于理财产品压力测试的探讨
【洞见】保险公司流动性风险传导及压力测试逻辑
【品书】《反脆弱》——对风险管理的启示
【洞见】证券公司风险管理数字化转型
荐书
【新书】Becoming Top Financial Talents in China (Japanese Edition)【新书】Becoming Top Financial Talents in China
【荐书】Chinese Wisdom in Risk Management (Japanese Edition)
【荐书】Eastern Wisdom in Risk Management
【荐书】Python金融实战案例精粹（第2版）
云课程
期权、期货及其他衍生产品（第九版，全部三百六十讲视频）
![]()
