新加坡金融管理局发布AI模型风险管理良好实践
点击文末“阅读原文”，下载报告原文。
2024年中，新加坡金融管理局（MAS）完成了对银行人工智能（AI）模型（包括生成式AI）风险管理实践的专题审查，并发布了相关信息文件。报告指出，在审查过程中，MAS发现多家银行在AI模型治理、风险管理和开发部署等方面采用了良好实践，并为金融机构提供了风险管理框架的参考，旨在帮助机构有效应对AI技术带来的新挑战。
报告指出，在治理与监督方面，多数银行已更新治理结构和政策流程，明确了AI使用的角色与责任，建立了跨职能的监督机制，并确保董事会和高级管理层能够有效监督AI的使用与相关风险。此外，银行还加强了员工的AI能力培训，以提升整体管理水平。
在风险管理体系和流程方面，报告提到，银行依据现有的风险管理政策识别和分类AI模型，并结合对AI模型风险的重要性评估，定期审查AI模型的潜在风险。大部分银行都维护了AI使用清单，确保模型使用的合规性并实现生命周期的可追踪性。银行还根据AI对业务的影响、模型复杂性和依赖程度，进行风险评估并及时调整风险管理措施。
报告还指出，在AI模型的开发与部署方面，银行已建立了完整的标准和流程，涵盖了从模型开发、验证、部署到监测和变更管理的各个环节。银行特别重视数据治理，确保数据的适用性和代表性，并在模型开发过程中强调可解释性、公平性及稳健性等方面的要求。开发者需要权衡AI模型的复杂性，确保其性能的稳定性和可重复性。
在验证环节，报告提到，银行加强了AI模型验证措施，确保模型符合既定标准，并通过独立验证、功能测试和预部署检查等手段，确保模型在生产环境中的正常运行。银行持续监测AI性能，设立了明确的阈值，重大问题需重新验证和审批。同时，银行还制定了应急计划和变更管理流程，以应对AI部署中的潜在风险。
特别地，报告强调银行利用现有第三方风险管理标准，权衡利弊，通过补偿性测试、应急计划、法律协议更新和培训等措施应对第三方 AI 风险，包括测试模型稳健性、制定应急计划、明确合同条款和提升员工风险意识等。
MAS在报告中强调，金融机构应参考这些良好实践，加强AI模型风险管理，确保AI技术的合规和安全使用，从而推动金融行业的健康、可持续发展。
来源：MAS
一个专注于数据、网络安全、科技、媒体和通信（TMT）领域，以及环境、社会和治理（ESG）法律发展的频道，致力于与您分享我们对法律法规、行业动态方面的独家观点和深入解读。
