随着人工智能（AI）技术的迅速发展，AI在各行业的应用日益广泛。AI技术的普及带来前所未有的机遇，也伴随着巨大的风险和挑战。面对越来越复杂精细的人工智能算法和系统平台，如何保证人工智能的合理应用和合规安全成为热点话题，监管机构正逐步加强对AI技术的监督和管理。
容诚结合自身多年审计经验和技术能力，提供AI风险相关审计服务，通过对企业的人工智能及相关设施进行风险审查，帮助企业有效识别和管理潜在风险，保障企业合规受益。
图 | 国内人工智能技术相关监管政策趋势
2024年8月1日，欧盟《人工智能法案》正式生效，这是全球首部全面监管人工智能的法规。其不仅适用于欧盟境内的企业，也具有域外效力，要求企业在进入欧盟市场时必须严格遵守该法案的高标准法规要求。这意味着企业在数据保护、算法透明度和责任归属等方面进行考量的同时，也需要在产品设计、服务提供、合规性评估和风险管理等方面进行全面的自我审视和调整。
因此，中国企业出海时必须确保其AI产品或服务在欧盟市场的合规性，规避因违反规定而产生的高额罚款和其他潜在的法律风险，企业需要健全内部合规体系，并强化风险管理机制，以更有效地应对可能出现的各种法律挑战。
企业应用人工智能的表现形式
人工智能技术正在以多种形式深刻影响企业的运营和效益提升，通过各类数据分析及数据挖掘模型、大语言模型、综合AI系统、AIGC等广泛应用，AI正为企业带来前所未有的效率提升和创新能力。且随着AI技术的不断发展，其在企业中的应用将会更加深入和多样化。
图 | 人工智能应用案例
人工智能应用的潜在风险
尽管AI技术在企业发展中具有显著优势，但也存在一定的风险和挑战。
图 | 人工智能应用的潜在风险
隐私和透明度风险
企业借助AI技术高频次、大规模处理数据时，易面临数据泄露、滥用或违反数据保护法规的风险。
可靠性和责任风险
AI系统或模型的失败与错误将严重影响公司业务/产品的正常运行。
法律合规风险
随着AI技术的广泛应用，包括知识产权、隐私保护等方面均可能导致法规伦理方面的挑战。
算力与算法挑战
AI大模型的训练和应用需要巨大的算力支持，而国内在算力服务器核心部件上存在依赖进口的问题。AI算法的开源生态构建相对滞后，一定程度上影响自主创新能力。
技术依赖与“卡脖子”风险：在核心硬件如GPU芯片等方面
企业过度依赖外部技术，增加潜在风险。
误导、偏见和歧视风险
AI系统被有意或无意中注入开发者的偏见，导致算法偏离应有的状态。
滥用和结果不准确性风险
AI开发者和应用者未正确使用AI模型，未对结果保持谨慎和怀疑。
企业应用人工智能的表现形式
从IT审计角度，已应用AI和即将布局AI的企业，需扩展审计范围以覆盖AI相关的合规性问题，以识别和评估AI相关的风险和相关控制措施。RSM结合多年审计经验和IT审计能力，设计并总结出AI风险审计主要关注点：
算法准确性与可靠性
审查算法模型的训练和测试数据集，评估模型的准确率、召回率、F1得分等性能指标。进行交叉验证，确保模型在不同数据集上的表现一致性。
合规与隐私保护
审查数据采集、处理和存储过程，验证数据的完整性和准确性。审查数据隐私和安全措施，确保符合《个人信息保护法》等相关法律法规。
算法透明度与解释性
评估模型的可解释性，例如使用LIME或SHAP等工具来解释模型的预测结果。确保决策过程可追溯，并能够对模型的输出进行解释和验证。
AI风险识别与管理
识别系统可能面临的风险，并进行风险评估。审查是否有相应的风险管理策略和应急预案。
法律法规与伦理
审查AI系统的设计和实施是否符合行业标准和法律法规要求，并检查企业内部的合规审查流程。
系统安全性风险
审查AI系统的安全性，包括对抗攻击和数据泄露风险；进行安全测试和渗透测试，评估系统抵御对抗攻击的能力；审查安全措施和访问控制策略，确保系统不易被未授权访问或篡改。
持续监测与更新评估
审查模型性能的持续监控机制及更新策略，跟踪模型的准确性和效率，评估模型在实际应用中的表现。
技术依赖与供应链风险
审计评估对外部技术的依赖程度，以及技术供应链中潜在的风险点与关注点。
基于AI风险审计的方案应该包括对上述各风险点的全面评估，结合企业的业务目标和风险偏好，以制定相应的审计程序和审查清单。
容诚IT审计的全新能力框架
容诚紧跟时代趋势，融合传统IT审计、数字化审计和AI时代IT审计，提出全新IT审计能力框架，形成全面审计视角。以传统IT审计为基石，融入数字化和智能化新技术，为企业提供适应未来发展的审计解决方案。
传统IT审计
对企业的业务财务系统进行全面核查，通过ITGC（一般控制）和ITAC（应用控制），包括密码策略、访问安全、日志审查、变更管理等核查点以及对关键业务财务系统的流程穿测核查，审查企业信息系统的合规性和高效性。
数字化的IT审计
利用大数据分析、热势分析、可视化分析等技术，对企业数据进行深入分析，以识别潜在风险。通过ETL流程审计及数据流分析，验证流程及数据的完整性、准确性。同时，通过模型审计和异常检测，加强企业实时风险监控能力，以及时发现并应对潜在的非合规行为和系统性风险。
基于AI的IT审计
结合AI治理、AI风险管理、AI透明性和模型漂移监控等技术提高审计效率和准确性，增强企业对复杂系统及算法的理解与控制。基于监管对AI的关注点和侧重点，对AI应用与拓展进行全面审查，帮助企业在快速变化的技术环境中同时保持业务连续性、系统的合规性。
容诚IT鉴证与数字化服务中心致力于数智赋能企业稳健合规发展，我们将持续为您带来【RSM-Digital.X】系列产品和服务介绍，敬请期待。
容诚IT鉴证与数字化服务中心介绍
容诚IT鉴证与数字化服务中心是隶属于容诚咨询下的数智创新服务团队，包含众多专业的数字化咨询顾问、领先的技术团队、全系列的数字化产品、丰富的行业创新经验，并融合容诚各领域行业专家，连接我们在数字化领域的广泛生态合作伙伴。立足于中国本土化，容诚咨询团队致力于为我们的客户提供领先、全方位、兼具国际视角的数字化服务。
我们的愿景
创新：打造持续、创新的解决方案
赋能：实现内外部客户的数字化赋能与支持
转型：探索业务/技术应用的转型突破
卓越：追求卓越的管理、业绩、运营、流程变革
我们的服务
我们提供从战略到运营、从规划到落地、从数据到洞察等多样化、全方位的数字化服务；应用成熟的理念方法，领先的数字化技术，协助解决企业日常面临的诸多挑战，涵盖：数字化战略、领域数字化转型、数据洞察与业务战略、财务数字化转型、信息系统审计、SAP咨询与实施、智能制造、数据治理、数据资产管理、数据安全与合规、内控合规数字化、审计数字化、数据科学等专项与综合服务。
联系我们
杜 杰 容诚咨询（北京）董事总经理
- 中国注册会计师
- 高级会计师
- 财政部内部控制咨询专家（新一届）
- 全国会计领军人才（管理会计咨询方向）
邮箱：dj@rccpa.com.cn
芮柏松 容诚IT审计与咨询合伙人
- 注册内部审计师
- 注册信息系统审计师
- 国际注册反舞弊师
- ITIL Foundation 认证
- SPSS Modeler IBM 认证专家
电话：189 1603 0937
邮箱：ruibaisong@rccpa.com.cn
