近日，2024年度国家自然科学基金青年学生基础研究项目（博士研究生）立项名单公布，区块链与数据安全全国重点实验室博士生陈锰（导师卢立研究员）申报的《对抗场景下的多模态大模型安全推理研究》获得立项资助，这是实验室博士生首次获得该项目立项。
国家自然科学基金青年学生基础研究项目（博士研究生）于2023年首次试点设立，旨在支持博士研究生在国家自然科学基金资助范围内自主选择研究方向开展基础研究、学科交叉研究，着力培养其独立开展科学研究的能力。项目实施采用“推荐+评审”的模式，通过博士生个人申请、学校遴选推荐、基金委组织通讯评审、会议评审等多个环节，最终确定资助项目。
该项目致力于探索大模型在多模态集成过程中面临的对抗脆弱性，针对系统输入空间扩展与代理权限提升带来的全新攻击面和广泛攻击效果，分别从多模态输入和文本输出的角度入手，深入挖掘对抗样本与良性样本在模型推理过程中的差异，利用对抗样本的输入鲁棒性与输出不确定性等性质实现高效的对抗攻击检测，并从对抗输出中提取可用信息以构建良性推理结果重构机制，最终形成“输入输出双重差异检测+良性推理结果重构”的安全推理体系。
图1 多模态集成给大模型推理带来新的攻击面和广泛的攻击效果
图2 项目研究目标、研究内容和关键科学问题
学生简介
陈锰，网络空间安全专业2021级直博生，主要从事语音对抗学习与模型后门相关研究，在USENIX Security、IEEE TIFS等顶级会议期刊上发表8篇学术论文，其中以第一作者的身份发表CCF A类论文4篇，授权国家发明专利1项，获得ACM MobiCom 2022最佳海报提名奖、IEEE INFOCOM 2022学生旅程奖、国家奖学金、浙江省政府奖学金等奖励，以及获得浙江大学争创优博学位论文计划和求是飞鹰计划资助，前往新加坡南洋理工大学Cyber Security Lab访问交流。
实验室对本次项目申报工作给予了高度重视，在正式答辩前专门组织多轮预答辩，邀请了包括国家级人才、国家级青年人才在内的多位专家老师参与指导，对项目申报的整体逻辑、答辩结构以及展示细节等提出了建设性的修改建议，力求做到内容扎实、论证严谨、表达清晰。通过多轮严格把关与细致指导，为申报工作的顺利开展奠定了坚实的基础。
来源：浙大网安
中文核心期刊
中国科技核心期刊
中国科学引文数据库来源期刊
CCF计算领域高质量科技期刊
我们在不断努力和完善中，期待您的关注和支持！
