日前，2024年世界互联网大会乌镇峰会在浙江省桐乡市乌镇开幕。记者获悉，本届峰会主题为“拥抱以人为本、智能向善的数字未来——携手构建网络空间命运共同体”，在会议期间，由中国图象图形学学会、蚂蚁集团、云安全联盟（CSA）大中华区联合主办的AI大模型攻防赛落下帷幕，静安区科技企业合合信息从全球超千支参赛团队中脱颖而出，获得“AI核身－金融场景凭证篡改检测”（简称“AI核身”）赛道冠军。
据了解，
该赛事直面并解决
大模型应用中潜藏风险，
助力全球AI产业健康可持续发展。
大赛吸引了来自全球18个国家和地区的3200余名技术精英参与，除了合合信息，参赛者还有来自清华大学、北京大学、交通大学、南洋理工大学等290多所国内外高校，以及字节跳动、理想汽车、腾讯等上百家科技企业。
近年来，以大模型及AIGC为代表的数字技术飞速发展，给人们的生活带来了便利，也产生了前所未有的安全挑战，比如在金融、生活等领域，伪造身份材料是常见的欺诈手段，给许多机构及个人造成了重大财产损失。
在“AI核身”赛道中，主办方以金融领域“进件审核”业务为背景，考验参赛队伍实现大模型生成内容的防伪检测的能力。据了解，该业务涵盖了信用成长、用户开户、商家入驻等多个场景，其中，用户办理业务时提交的材料真实性是困扰金融场景自动化审核的一大难题。如何通过创新技术手段提高金融凭证篡改检测精度，是赛道关注的重点。
为解决金融凭证篡改“检测难”的问题，赛道提供了大规模的、贴合实际业务场景的凭证篡改数据集。据合合信息技术人员介绍，本次比赛中，合合信息基于自主研发的图像篡改检测系统，针对百万级金融场景的凭证材料，提取图像多模态信息；系统结合低维视觉特征和高阶语义异常进行综合分析，在保持极低误检率的同时，精准识别伪造区域，有效解决了不法分子利用PS、AIGC等工具制作的高度逼真凭证样本中伪造区域难以检测的技术难题。
合合信息图像篡改检测技术对常见证照篡改痕迹进行定位
据悉，在图像内容安全领域，由中国图象图形学学会、中国信息通信研究院、合合信息等公司和多所高校联合编制、中国互联网协会发布的《文本图像篡改检测系统技术要求》团体标准于今年9月正式发布，为企业在开发篡改检测技术时提供明确指导，建立行业联合防范机制。
记者：蒋文婕
图片：合合信息
编辑：路景斓
转载请注明来自上海静安官方微信
