CAISP人工智能安全认证专家

科技   2024-11-06 09:50   重庆  

人工智能

大型语言模型和检索增强生成


在数字化和人工智能快速发展的今天,数据安全成为企业运营的关键问题之一。尤其是在使用大型语言模型(LLMs)和检索增强生成(RAG)这类先进AI系统时,企业面临着前所未有的数据安全挑战。影子访问(Shadow Access)问题正是在这种背景下变得尤为突出和紧迫。


由云安全联盟大中华区发布的《以零信任应对AI部署中的影子访问风险》白皮书全面分析了影子访问问题及其与零信任安全模型和人工智能技术的关系。通过对影子访问的深入探讨,白皮书提供了一系列减少影子访问风险的建议和策略,为组织在应对数据安全挑战时提供了重要参考。随着LLMs和RAG等技术的发展,影子访问问题将变得更加复杂,零信任安全模型的应用也将面临新的挑战,持续的监控和更新将是保障数据安全的关键。

CAISP

人工智能安全认证专家

CAISP认证由云安全联盟大中华区发布,是首个全面覆盖AI安全领域的培训认证项目,从技术、法律、道德与伦理等多方面,提升AI安全综合治理能力;通过实际案例和实践指导,提升解决AI安全实际问题的能力。

该认证课程不仅填补了国内AI安全认证培训的空白,也为推动我国AI安全领域的技术创新和产业发展作出重要贡献。

CAISP学习对象

  • AI行业相关人员:AI工程师与开发者、AI安全工程师、AI应用终端用户;

  • 安全相关人员:安全研究员、合规与风险管理专员、网络安全从业者;

  • 其他:政策制定者和监管机构、科技管理者、在校学生

CAISP公开课课程内容

模块

培训内容

AI安全概述篇

  • AI与AI安全基本概念

  • AI与安全衍生

  • 技术发展脉络

技术基础篇

  • 常见AI算法与模型介绍

  • AI模型与算法安全性分析

  • 数据隐私保护与安全措施

安全风险篇

  • 大模型安全风险概述典型攻击与应对策略:提示攻击、对抗攻击、梯度泄露攻击、推理攻击、模型萃取攻击、供应链攻击、应对策略

  • 防御机制解析

政策与治理篇

  • 国内外AI安全法律法规、标准规范分析

  • AI安全治理框架

全生命周期管理篇

  • DevSecOps与AI

  • AI安全需求分析与设计

  • 安全的AI系统开发指南与实践

  • AI安全测评框架应用

  • AI渗透测试技术与方法

  • AI安全运营保障体系建设

标准与评估篇

  • AI安全框架

  • AI成熟度模型应用与评估

  • AI安全标准与测评认证实践

特别篇ChatGPT的安全影响

  • 恶意行为者利用LLM的安全分析

  •  防御者如何将LLM应用于网络安全

  • 恶意提示词攻击的防范措施

  •  企业安全使用ChatGPT的最佳实践

实践案例篇

  • 现实世界中的AI安全问题深度分析

  • 解决方案制定与应对策略

  • 关键领域的AI安全最佳实践案例

  • 行业大模型应用及安全实践案例

伦理与未来发展

  • AI伦理道德挑战与分析

  • 典型场景下的AI伦理道德风险

  • 未来发展趋势

考前串讲

  • 考前要点讲解与考前练习

CAISP证书样例

CAISP讲师阵容

1.

贺老师CAISP讲师

全球知名大学 MBA,拥有超过 20 年数字安全从业经历;目前在某互联网安全大厂任资深安全专家,曾在中国电科、IBM 等多家企业担任常务副所长兼技术负责人、资深安全咨询总监等职;持有 CDSO 注册数据安全官、CDSO(工信)、CDSP、ISO27001LA、CSAC-STAR、CISP-CISE 等资质证书。

贺老师是 CSA 云安全联盟特聘专家、数据安全/个人信息与隐私保护等CSA多个工作组的核心专家,开放群岛社区首席数据科学家,中国信通院数据安全共同体计划专家库数据安全专家,雄安新区等网络安全专家库专家,计世资讯百人网络安全专家,信息化百人会数据安全研究员等。作为课程开发组长,主持完成全球首个人工智能安全认证(CAISP)培训课 程的开发;作为核心主创,已完成数据安全认证专家(CDSPv2.0)、高级云安全专家(ACSE)等培训课程开发工作,正在开发云安全知识认证(CCSKv5.0)培训课程。

2.

崔老师CAISP讲师

网络安全和物联网领域的连续创业者。长期从事网络安全研究,主要研究领域包括网包分类、身份与访问控制、零信任安全、AI安全、物联网及工控网络安全等。历任上海物盾信息科技有限公司联合创始人,首席安全研究员;微软全球技术中心专家级工程师等职务。服务过大量各类行业客户,积累了丰富的实践经验。清华大学工程物理系本科、自动化系创新领军工程博士。云安全联盟大中华区研究专家,AI工作组成员,参与编写了《AI安全白皮书》《全球人工智能治理宣言》等原创报告,并翻译了多篇安全研究报告;CSA CAISP课程编者。

3.

李老师CAISP讲师

曾参与编写《基于 PMI-ACP 的敏捷全景指南》、《网络服务安全与监控》、《云途·云图》、《 CSA 数据安全领域指南》、《 5G 安全》、《Safe 精粹》,《网络服务安全与监控》、《等保 2.0 云安全》,是《ITIL 2011 备考指南》副主编、《凤凰项目》评审专家,及《区块链技术保障物联网安全》中文翻译者,发表过《中小企业如何做好 IT 管理》论文等;针对安全管理体系建设、DevSecOps主导修订CSA DevSecOps系列白皮书,包括《DevSecOps的六大支柱:支柱 1:集体责任》、《DevSecOps的六大支柱:支柱 2:协作和集成》、《DevSecOps的六大支柱:支柱 3:务实的实施》、《DevSecOps的六大支柱:支柱4:在合规和发展之间架起桥梁》、《DevSecOps的六大支柱: 支柱 5:自动化》、《DevSecOps的六大支柱:支柱6:衡量、监测、报告和行动》等文献。

扫码了解更多

CAISP课程内容

HACK之道
HACK之道,专注于红队攻防、实战技巧、CTF比赛、安全开发、安全运维、安全架构等精华技术文章及渗透教程、安全工具的分享。
 最新文章