三所动态|我所参与编制的2024年度《生成式大模型安全评估白皮书》正式发布

文摘   2025-01-02 17:00   上海  

12月28日,首届中国计算机学会(CCF)中国数据大会在海南琼海盛大开启。本次大会以“数智融合赋能数字中国”为主题,汇聚数字科技领域顶尖专家学者,聚焦数智前沿,共同探讨技术突破与实践创新,全方位解读数智化转型的最新趋势与实践路径,解码数字化转型新蓝图。

图1|数据安全高端论坛

作为本届大会的五个院士高端论坛之一的数据安全高端论坛于12月28日下午圆满落幕。论坛由中国工程院陈纯院士、吴世忠院士担任主席,中国科学院王小云院士、管晓宏院士等专家学者作主题报告。由智能算法安全重点实验室(中国科学院)、公安部第三研究所与蚂蚁安全实验室联合编制的2024年度《生成式大模型安全评估白皮书》在会上正式发布。白皮书全面梳理了生成式大模型的发展现状与安全风险,从安全评估方法到实践案例,深入剖析了当前技术面临的关键挑战及应对策略,旨在为学术研究、产业实践和政策制定提供重要参考,为积极应对生成式大模型的安全挑战提供方向指引。

图2| 白皮书编写单位代表致辞

公安部第三研究所副所长张巍作为编写单位代表致辞,她指出,随着大模型技术在多行业多场景中的广泛覆盖与深入应用,其潜在的安全风险日渐凸显,大模型幻觉、隐私数据泄露等风险问题频发,生成式大模型面临隐私保护、恶意滥用、技术漏洞及合规性等方面的复杂挑战。不仅对技术安全性提出更高要求,也对产业规范发展和社会治理能力构成严峻考验。她表示,期待通过论坛增进理解、分享经验、凝聚共识,探索出更多行之有效的策略和措施,为充分激发人工智能创新活力,健全人工智能安全治理体系赋能助力。

图3|发布《生成式大模型安全评估白皮书》

智能算法安全重点实验室主任、中国科学院计算技术研究所副所长程学旗,公安部第三研究所副所长张巍,蚂蚁安全实验室主任王维强,中国数据大会数据安全高端论坛召集人、浙江大学计算机学院院长任奎,中国科学院计算技术研究所网络数据科学与技术重点实验室主任郭嘉丰共同发布白皮书。 



来源:三所发布



信息网络安全    

《信息网络安全》创刊于2001年,是由公安部主管,公安部第三研究所、中国计算机学会主办,面向国内外公开发行的国内首批信息安全类期刊之一,于2015年成为中国科技核心期刊,2017年成为中国科学引文数据库来源期刊,2018年成为中文核心期刊,2022年入选CCF计算领域高质量科技期刊分级目录。



中文核心期刊

中国科技核心期刊

中国科学引文数据库来源期刊

CCF计算领域高质量科技期刊


我们在不断努力和完善中,期待您的关注和支持!

信息网络安全杂志
深入介绍信息安全理论,瞄准信息安全领域迫切需要的前沿技术,传达贯彻国家信息安全重要方针政策,及时反映国内外信息安全的热点技术及最新发展趋势。
 最新文章