首页时事民生政务教育文化科技财富体娱健康情感

旅行百科职场楼市企业乐活学术汽车时尚创业美食幽默美体文摘

邬江兴院士：内生安全理论为可信AI构建提供新路径

文摘 2024-12-18 17:21 四川

近日，中国工程院院士邬江兴在2024第三届北外滩网络安全论坛发表主旨演讲。本次演讲聚焦AI应用系统的内生安全问题，深入剖析当前网络安全理论面临的瓶颈，围绕内生安全理论、动态异构冗余的拟态构造方法及其在AI算法个性化安全中的应用，探讨AI健康发展的理论与技术路径。

01

内生隐患频发，网络安全面临挑战

邬江兴院士提出，AI应用系统存在的安全风险分为两类：

一是内生安全问题，源于计算机体系结构的固有缺陷，这些缺陷在AI应用中表现为存储程序控制机理的内生安全缺陷，导致未知风险不可避免，传统网络安全理论在面对未知的未知威胁时无能为力。

二是非内生安全问题，由外部环境或操作带来的威胁，尽管严重但仍有应对方法。

传统安全理论主要依赖先验知识，通过漏洞修补等“亡羊补牢”的方式防范已知威胁。然而，这一理论框架存在“天花板效应”，在应对未知威胁时显得力不从心，尤其在人工智能等高风险技术领域，设计之外的伴生功能与副作用难以完全消除，成为构建可信AI的主要障碍。

02

理论方法齐发，拟态构造保驾护航

针对网络安全面临的难题，邬江兴院士提出了内生安全理论，并提出基于拟态构造方法的技术解决方案：

一是要以内生安全理论为基础，研究如何在充满内毒和未知风险的网络环境中，构建安全质量可承诺的信息物理系统。理论的核心在于，不消除所有隐患，而是将威胁转化为可控的形式进行管理。

二是要通过拟态构造方法，实现安全技术的新突破。利用动态异构冗余机制，将未知的未知问题转化为已知的未知问题，变不可控为可量化，从而提升系统的弹性和可靠性。

三是要打破传统黑盒测试的局限，创新提出白盒插桩测试方法，借助量化验证手段直接评估系统安全性能。

实验数据表明，基于内生安全的AI应用系统在攻击场景下展现出显著的网络弹性，综合识别率超过90%，相较于单一模型技术，防护效果提升显著。

03

算法缺陷显现，多样模型筑牢防线

邬江兴院士强调，AI算法模型普遍存在不可解释性、不可判识性和不可推论性“三不可”问题。这些缺陷使得AI模型极易受到攻击，也极难进行定位与修复。在这一背景下，AI深度应用中暴露的风险主要集中在以下方面：

一是技术本身的脆弱性问题，例如算法攻击、模型鲁棒性不足等，使得AI在复杂环境中易失效。

二是推广应用可能遭遇的现实威胁，如隐私数据被窃取、模型劫持攻击或推理路径破坏等，严重危害AI技术的安全性和公信力。

三是AI潜在的伦理与社会风险，算法歧视、信息茧房、结构性失业等问题，都对社会公平与治理构成考验。

为解决这些问题，邬江兴院士提出了多样化模型构建方法，通过差异化的网络结构和算法训练，构建出具有特异性和鲁棒性的AI模型，有效增强系统对攻击的弹性。

04

智能融合提速，数据安全护航发展

邬江兴院士强调，构建可信AI是实现智能化健康发展的重要前提，他提出以下建议：

一是要重视安全理论研究，深挖内生安全理论和动态异构技术的潜力，为未来提供科学理论依据和技术路线支撑。

二是要加强数据安全保障，数据既是AI应用的基础，又是AI安全的关键，确保数据安全是维护AI系统可信性的重要举措。

三是要完善监管标准与技术生态，汲取国际经验，加速安全标准制定与实施，提高AI技术在实际应用中的可信度和保障性。

四是要构建协同防护体系，借助AI技术构建智能化网络防御手段，以更智能的安全策略，支撑网络安全体系升级，促进智能化持续发展。

最后，邬江兴院士总结表示，内生安全理论从技术到系统方法论的创新，为应对AI时代复杂多变的安全挑战提供了新的理论支撑。该理论不仅打破了传统安全方法的限制，还为可信AI构建与安全治理提供了可靠的技术保障和实践指南。

来源：风气江河

END

信息安全与通信保密杂志社

网络强国建设的思想库、安全产业发展的情报站、创新企业腾飞的动力源

最新文章

全球瞭望｜网络安全重大事件精选（150期）

OT和IT融合场景下网络安全威胁监测分析系统设计

面向加密流量的恶意RAT攻击行为识别方法

工信部等三部门印发《制造业企业数字化转型实施指南》 | 附全文

上万名村民个人信息被窃取！国家医保局严正声明

基于UEBA的零信任安全体系架构设计与实现

国家数据局等五部门印发《关于促进企业数据资源开发利用的意见》附全文

电子政务数据存泄露风险，浙江某软件科技公司被公安机关行政处罚

一种跨层联动的安全可信路由控制技术

某AI产品违规生成法律法规禁止信息，遭地方网信办关停服务并整改

基于MITRE Engage模型的网络安全能力建设思路

奥联隐私计算服务平台通过信通院可信数据流通评估测试

警惕！“银狐”木马病毒再次出现新变种并更新传播手法

全球瞭望｜网络安全重大事件精选（149期）

盘点 | 2024年全球窃密泄密事件

《2024年网民网络安全感满意度调查商用密码专题调查报告》

中国工程院院士吴世忠：相较AI技术发展，安全研究明显滞后

视觉深度伪造模型归因研究综述

《网络安全标准实践指南——生成式人工智能服务安全应急响应指南（征求意见稿）》公开征求意见

全链路访问技术在数据安全监测中的研究和应用

美创科技完成新一轮融资！

面向数字政府的5G网络商用密码应用关键技术研究

荣耀时刻 | 祝贺江南信安获批专精特新重点“小巨人”企业

邬江兴院士：内生安全理论为可信AI构建提供新路径

数据安全与数字化转型的柔性融合

黄殿中院士：智能时代网络空间认知安全新观察

全球瞭望｜网络安全重大事件精选（148期）

2024“金智奖”揭晓：保旺达荣膺创新解决方案奖

抓创新谋未来｜祝贺江南信安荣获“创新领航企业奖”

口令猜测技术研究

2024“金智奖”揭晓：天地和兴荣膺创新解决方案奖

2024“金智奖”揭晓：三零卫士荣膺杰出安全产品奖

算法安全治理研究

2024“金智奖”揭晓：金航数码荣获杰出安全产品奖

2024“金智奖”揭晓：酷德啄木鸟荣获AI创新应用奖

观成科技荣获2024年度“金智奖”创新解决方案奖

三未信安荣获2024年度“金智奖”杰出安全产品奖

国内外网络安全十大焦点事件｜11月精选

2024“金智奖”揭晓：江南信安荣获创新领航企业奖

2024“金智奖”揭晓：海泰方圆荣获AI创新应用奖

全球瞭望｜网络安全重大事件精选（147期）

和利时信安院荣获2024年度“金智奖”创新领航企业称号

美创科技荣获2024年度“金智奖”创新解决方案奖

习近平在视察信息支援部队时强调努力建设一支强大的现代化信息支援部队推动我军网络信息体系建设跨越发展

基于语义级协议解析的工控网络安全监测方法

世平信息荣膺2024年度“金智奖”杰出安全产品奖

天空卫士荣膺2024年度“金智奖”AI创新应用奖

海外报告｜美国网络部队应为长期战争做好准备

引领数据安全新高度 | 明朝万达荣膺2024年度“金智奖”创新领航企业奖

深耕零信任安全 | 易安联荣获2024年度“金智奖”创新解决方案奖

分类

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉