我院研究生团队斩获首届生成式人工智能安全大赛冠军
2024年12月，北京市互联网信息办公室和中国科学院网络安全和信息化领导小组办公室共同指导，中国科学院信息工程研究所和信息内容安全国家工程研究中心联合主办的首届生成式人工智能安全大赛完美收官，并在北京凤凰中心举办了隆重的颁奖仪式暨大模型安全技术研讨会。此次大赛聚焦安全攻击、安全检测、安全防护三大赛道，聚集国内优势力量，有效发现、分析、应对大模型安全风险，不断提升人工智能基础底座的安全可控水平，更好地促进全国大模型产业的安全发展。赛自今年4月在中关村论坛启动以来，吸引了来自全国各地高等院校、科研院所、行业企业等200余支赛队参与。大赛受到来自政、产、学、研各界的广泛关注，阿里、百度、360、美团、百川智能、零一万物、京东、58同城等60余家代表企业参会。经过几个月的初赛、复赛、专家评审等层层筛选和激烈角逐，3个赛道最终确定了冠军、亚军、季军，以及优胜奖。
在备受关注的“安全防护”赛道中，由网络空间安全学院郑锐彬、贾堃、陈凯帆、张洵和钟志扬组成的广州大学“保险箍”安全护栏团队（指导教师：方滨兴院士、齐佳音教授）凭借扎实的技术能力和创新思维，从200多支参赛队伍中脱颖而出，斩获冠军！这支横跨本硕博三个培养阶段的团队围绕大模型安全防护这一关键问题，创新性地提出了一套多层次的综合防护方案。该方案巧妙结合了对抗样本检测技术和模型加固策略，不仅能够有效识别和拦截潜在的恶意输入，还通过模型结构优化显著提升了系统的整体防御能力。在实际测试中，方案展现出优异的性能和较强的实用价值，获得了最高的防护效果，展示了网络空间安全学院在生成式人工智能安全研究领域的深厚基础。
Science Technology
来源：网络空间先进技术研究院
中文核心期刊
中国科技核心期刊
中国科学引文数据库来源期刊
CCF计算领域高质量科技期刊
我们在不断努力和完善中，期待您的关注和支持！
