中国工商银行金融科技研究院 安全攻防实验室
作者：苏建明 蒋家堂 叶红 程佩哲 许啸 黄蓉
中国工商银行金融科技研究院 大数据和人工智能实验室
作者：金昕
【编者按】为进一步夯实金融科技应用与实践基础、加快推动金融数字化转型工作。金融科技产业联盟积极组织会员单位进行前瞻性研究，汇集研究成果及实践经验，形成《金融科技发展专报》，供相关部门和产业机构参考。
随着金融数字化转型的快速发展，人工智能相关技术在金融领域的应用场景日趋广泛，特别是大模型的出现，加速了人工智能在金融业应用的进程。同时，深度伪造、对抗样本等针对人工智能的新型攻击手法不断涌现，人工智能应用风险已引起行业高度关注。中国人民银行印发的《金融科技发展规划（2022—2025年）》明确，运用人工智能、大数据等技术，持续迭代优化风控模型和风险控制策略，推动风险管理从“人防”向“技防”“智控”转变，增强风险处置及时性、准确性，健全自动化风险控制机制。本文从基础设施、数据、模型算法、伦理等多方面分析金融业人工智能应用风险和防护，并给出典型案例，为金融行业开展人工智能应用提供经验参考。
一、
金融业人工智能应用风险概述
（一）国内外法律法规
针对人工智能应用风险，国内外均提出发展和安全并重、加强监管的核心思想，保障人工智能的安全发展。国内侧重于宏观监管和国家战略服务。中国人民银行在《人工智能算法金融应用评价规范》中规定了人工智能算法在金融领域应用的基本要求、评价方法和判定标准。国家网信办颁布了《生成式人工智能服务管理暂行办法》，旨在促进生成式人工智能健康发展和规范应用。国外监管更注重市场效率和消费者保护。美国《人工智能应用监管指南》的发布标志着欧美人工智能政策从伦理规范向监管规制逐步转变；欧盟在《人工智能法》中提出了风险分类思路、产品规制路径、负责任创新和实验主义治理理念。
二、
金融业人工智能风险与防护框架
（一）基础设施层面
基础设施层面需要推动软硬件国产化、加强安全检测以及建立风险防控体系，全面提升AI基础设施水平和安全保障能力。一是推动基础硬件国产化，引入国产训练芯片，优化容器调度适配国产芯片，统一资源监控，构建国产AI算力云集群。二是加大对国产开源AI计算框架的应用推广力度，防止AI开源框架断供。三是加强基础框架安全检测，建立完备的外部威胁情报监控及漏洞检测修复机制，保障系统安全。四是应建立体系化风险防控体系，明确开源可控防护政策、制度与原则，严格按照规范使用开源代码和应用。
（六）隐私层面
（七）管理层面
三、
典型案例
（一）工商银行人工智能安全框架
工商银行构建了全面的人工智能安全框架，涵盖数据安全、模型安全、应用安全及安全测评。数据安全通过源头控制、精确管理访问权限、加密脱敏等技术确保数据生命周期的安全性和合规性，保障用户数据和商业秘密的安全可控；模型安全从算法内生安全入手，提升模型透明度和可解释性；应用安全通过强化权限管理、内容审核和防伪机制保障内容安全；安全测评方面，工商银行建设了系统化、标准化的安全攻防演练和测评整改能力，全面了解应用安全状况，及时发现并修复隐患，为持续优化提供依据。工商银行人工智能安全框架见图1。
图1 工商银行人工智能安全框架
（二）邮储银行人工智能安全技术体系
邮储秉持“守正审慎”原则，积极应对人工智能应用风险，构建了一套全方位、多层次的安全技术体系。在数据层面，邮储注重知识对齐，对训练语料进行持续的知识矫正，确保模型的自主可控、可追溯和可解释。在算法层面，邮储采用安全测试方法全面评估算法安全，并通过攻击样本生成、强化训练等措施加固算法，同时构建安全运营体系，全面管理人工智能资产，监控服务运行指标，建立安全态势感知和预警机制。在应用层面，邮储根据用户类型构建内外部安全评级体系，实行差异化管理，确保人工智能应用服务的安全与稳定。邮储银行人工智能安全技术体系见图2。
图2 邮储银行人工智能安全技术体系
（三）蚂蚁集团大模型安全一体化解决方案
随着大模型与Agent智能体的广泛应用，涌现出模型幻觉、安全漏洞及内容滥用等新挑战。蚂蚁集团应势推出蚁天鉴2.0，构建双重防御体系，内置净化训练数据，外置智能风控，全方位保障安全。蚁天鉴2.0形成了包括大模型基础设施测评、大模型X光测评、应用安全测评、AIGC滥用检测、证件伪造检测、围栏防御等在内的完整技术链条，面向行业提供全方位智能化的大模型安全测评和防御解决方案。蚂蚁集团大模型安全一体化解决方案框架见图3。
图3 蚂蚁集团大模型安全一体化解决方案
四、
发展建议
随着数字化转型的不断推进和数字化金融场景的快速创新，金融业人工智能正进入融合应用、拓展深化的新阶段。同时人工智能应用风险也成为金融行业不容忽视的挑战，金融企业需要携手合作，从监管、技术、管理及合作等维度构建全面的风险防控机制，保障市场稳定与健康发展。
（一）构建金融人工智能监管新生态，引领行业安全稳健发展
金融业人工智能的发展需要构建以安全为基石、创新为驱动的全新监管生态，制定符合金融行业特点的人工智能监管政策，构建人工智能监管组织架构，探索分类分级监管模式，遵循风险分级、最小干预原则，实现以安全促发展的目标。
（二）提升核心技术自主可控水平，筑牢人工智能安全防线
在全球化背景下，金融业人工智能的健康发展离不开关键核心技术的自主可控。加强基础、共性与应用技术的研发，保障金融行业免受外部技术威胁、确保系统稳定运行。同时推进智能检测工具与监测预警平台的建立，将进一步提升对潜在风险的感知与响应能力，为金融安全筑起一道坚实的防线。
（三）强化内部管理与员工培训，保障人工智能可信应用
金融企业必须强化内部管理并加强员工风险意识培训，提升从业人员对人工智能技术的认知与驾驭能力，在企业内部建立人工智能风险管理体系，制定清晰的人工智能使用政策、范围及方式，形成有效的风险评估机制，并实施风险监控。同时，加强员工培训与教育，确保人工智能技术健康、安全地服务于社会经济发展。
（四）促进跨行业技术交流合作，共建人工智能风险治理体系
快速发展的数字时代，人工智能技术已成为推动各行业创新的核心驱动力。鉴于人工智能技术广泛应用带来的共性风险，跨行业技术交流与合作已成为人工智能风险防控的关键。需树立全球视野，促进知识与资源的有效流通，分享人工智能风险治理的成功经验与最佳实践，共同构建更加公平、开放、包容的金融业人工智能风险治理体系。
本文来源：金融数字化转型工作专业委员会
投稿邮箱：News@bfia.org.cn
