2024年10月29日，澳大利亚证券和投资委员会（ASIC）发布的一份名为《当心差距：面对 AI 创新的治理安排》的报告，主要探讨了澳大利亚金融服务和信贷持牌机构（licensees）在人工智能（AI）创新方面的治理安排，以及这些安排如何影响消费者风险。为了完成该报告，ASIC审查了 23 家 AFS 被许可方和信用被许可方如何使用和计划使用人工智能，他们如何识别和减轻相关的消费者风险，以及他们的治理安排。以下是报告的核心内容：
AI的使用现状：
广泛采用：ASIC审查了23家持牌机构，发现它们正在使用或计划使用AI，涵盖了银行、信贷、保险和财务咨询等领域。
快速增长：57%的AI用例是在过去两年内开发或仍在开发中，显示了AI技术的快速增长和采纳。
技术转变：虽然当前大多数用例使用成熟技术，但向更复杂、不透明的技术（如生成式AI）的转变正在加速。
AI使用中的谨慎态度：
辅助决策：AI主要用于辅助而非替代人类决策，大多数用例不直接与消费者互动。
内部应用：AI在提升内部效率和流程优化方面应用广泛，但在直接面向消费者的应用中较为有限。
消费者风险与治理差距：
治理不足：部分持牌机构在扩大AI使用时，其治理和风险管理安排并未同步更新，存在治理差距。
消费者风险：治理不足可能导致消费者面临不公平歧视、信息误导、行为偏见利用和数据隐私泄露等风险。
风险管理与治理安排：
风险评估不足：部分持牌机构从业务而非消费者角度评估AI风险，未充分识别AI特有的风险，如算法偏见。
治理成熟度不一：持牌机构的AI治理成熟度差异显著，从几乎没有正式安排到战略性集中治理不等。
第三方模型依赖：
高度依赖：30%的AI用例依赖第三方开发的模型，这可能带来透明度、控制和安全隐私方面的挑战。
治理挑战：部分持牌机构在管理第三方模型方面存在不足，缺乏适当的验证、监测和审查程序。
未来展望与监管建议：
平衡创新与安全：ASIC鼓励持牌机构在推动AI创新的同时，确保适当的消费者保护和市场诚信保障。
监管框架发展：澳大利亚政府正在考虑制定高风险AI的强制性监管框架，ASIC支持这一举措，并将继续监测持牌机构的AI使用。
对持牌机构的建议：
审视治理安排：持牌机构应定期审视和更新其AI治理和风险管理安排，确保与AI使用的规模和复杂性相匹配。
遵守现有义务：持牌机构需考虑其现有监管义务，特别是与提供金融服务和信贷的“高效、诚实和公平”原则相关的义务。
报告强调了随着AI在金融服务和信贷领域的广泛应用，持牌机构需要更加重视其治理和风险管理安排，以确保在创新的同时保护消费者免受潜在风险的影响。同时，监管机构也在密切关注这一领域的发展，并考虑制定更具体的监管要求。
