11月20日，全球AI大模型攻防挑战赛在世界互联网大会乌镇峰会收官。现场，全球十强选手面对“眼见不为实、耳听不为实”的场景，通过大模型技术辨别AI造假的音频、证照及视频，用AI对抗AI。
赛事由中国图象图形学学会、蚂蚁集团、云安全联盟（CSA）大中华区联合主办，联合清华大学、上海交通大学、浙江大学、北京科技大学、湖南大学、华中科技大学、北京理工大学等高校及多家产学研组织共同发起，直面并解决大模型应用中潜藏风险，助力全球AI产业健康可持续发展。
来自全球18个国家和地区的2700多个赛队、3200余名技术精英参与了竞逐，选手来自清华大学、北京大学、交通大学、南洋理工大学、约翰霍普金斯大学、香港科技大学、悉尼大学等290多个国内外高校，以及理想汽车、腾讯、智谱AI、Shopee、网易等280多个互联网、金融、汽车、大模型科技等行业企业。
通过攻、防双向赛道竞技，大赛最终角逐出全球十强，由来自合合信息科技、济南大学、浙江工业大学、安徽大学、上海交通大学等企业和高校的赛队获得。
CSA大中华区主席李雨航（右）与蚂蚁集团副总裁李俊奎（左）为冠军团队颁奖
全球AI大模型攻防挑战赛十强乌镇亮相
攻防竞技 深入剖析大模型安全痛点
近年来，人工智能技术特别是大模型及AIGC领域飞速发展，给我们生活带来了前所未有的便利与可能性，也带来了安全方面的挑战。
只需10秒，大模型就能克隆声音、复刻照片，甚至能生成“你”的视频，从而引发deepfake欺诈、色情影像伪造、假新闻等社会事件；大模型“越狱”问题频发，诱骗AI听从不怀好意的指令，生成血腥、暴力、歧视、仇恨的图片、视频，危害网络空间安全。
中国工程院院士、中国图象图形学学会理事长王耀南指出：“加强大模型安全保护，构建完善的安全防护体系，是确保人工智能技术持续、稳定、健康发展的关键所在，也是我们在这个充满机遇与挑战的时代必须肩负起的重要使命。”
在此背景下，全球AI大模型攻防挑战赛聚焦大模型自身安全和大模型生成内容的防伪检测两个赛道，赛题涉及信用成长、凭证审核、商家入驻、智能助理等多个业务场景，覆盖机器学习、图像处理与计算机视觉、数据处理等多个算法领域，通过创新的技术解决方案，进一步保障大模型应用安全和产业安全。
全球AI大模型攻防挑战赛十强选手现场对抗AI诈骗
人才与标准 共建大模型安全未来
云安全联盟（CSA）大中华区不仅致力于技术创新，还注重安全技术人才的培养和行业标准的建立。在本次赛事中，3200余名参赛选手横跨学术与产业界，代表了当前全球大模型安全技术的前沿水平。CSA通过赛事平台发掘并培养了新一批安全技术专家，为行业储备了高质量的智力资源。
与此同时，CSA持续推动大模型安全标准化建设。在赛事期间，CSA携手合作伙伴探讨了AI安全的国际规范，包括凭证认证标准、AI生成内容验证框架等方向，旨在通过技术标准化降低安全风险，提升全球AI产业的信任度。
云安全联盟CSA作为网络安全领域全球领先的国际组织，建立了全球最大的研究工作组对AI安全展开全面的研究，CSA大中华区作为核心贡献力量，在安全指南、标准等领域输出了丰富的研究成果。特别是在人工培养方面，CSA大中华区发布了全球首个人工智能安全认证培训项目，CAISP（Certified Artificial Intelligence Security Professional）人工智能安全认证专家。这一系统性的认证课程是人工智能的一大重要里程碑，补充了AI安全人才知识体系的空白。CAISP认证课程涵盖大模型的安全治理、算法防御及数据隐私保护等关键领域，专注于为AI从业者提升系统化的安全知识与实战技能水平。
此次通过CAISP认证培训与“全球AI大模型攻防挑战赛”结合，丰富了CSA的AI人才培养体系。CAISP认证课程是全面系统的知识体系和培养安全建设能力，赛事是对人才实战技能更严格的训练手段。CSA面对数字技术发展，持续丰富数字安全人才培养体系，培养具有国际水平的实战型数字安全人才。
阅读推荐
