研究揭示遥感领域人工智能高度易受攻击

科技   2024-10-20 09:35   陕西  


科学家在用于遥感的人工智能模型中发现了重大漏洞,突显了提高鲁棒性以确保在关键应用(如灾害响应)中可靠性能的必要性。

近年来,人工智能(AI)和深度学习(DL)模型在遥感领域的应用愈发广泛,成为政府情报、环境监测、城市规划和灾害管理等重要领域的核心工具。

然而,最新研究揭示,现有的深度学习模型在处理遥感图像时,存在一定的脆弱性,可能遭受物理和数字攻击,影响其在关键应用中的可靠性。

来自西北工业大学和香港理工大学的研究团队,以西北工业大学电子信息学院教授梅少辉牵头,进行了对深度学习模型鲁棒性的大规模审查。

该研究结果发表在《Journal of Remote Sensing》上,重点分析了这些模型在遥感任务中,特别是图像分类与目标检测任务中的表现,揭示了它们在面对自然噪声和对抗攻击时的脆弱性。

深度学习模型的脆弱性分析

研究团队发现,尽管深度学习模型在遥感应用中表现出色,但它们容易受到各种干扰和攻击。

例如,自然噪声(如雨、雪、雾)和对抗攻击(如快速梯度符号法FGSM)都能显著影响模型的性能。此外,物理攻击手段,如在物体上贴附特殊的“补丁”,也能有效欺骗模型。

在遥感背景下数字攻击和物理攻击之间的差异

研究还指出,弱检测器(如YOLOv2)更容易被攻击,而更鲁棒的模型表现出更强的抗干扰能力。同时,技术手段如“momentum”和“Dropout”可以增强攻击的效果。

研究人员还通过物理攻击验证发现,现实中的物理攻击手段与数字攻击具有同等威胁,比如在关键区域放置物理补丁,可以让模型无法准确识别目标。

改善深度学习模型的鲁棒性

为了进一步提高深度学习模型在遥感领域的可靠性,研究团队总结了多种提升模型鲁棒性的方法。

他们发现,训练对抗攻击的过程与神经网络训练类似,受训练数据、优化策略等因素的影响。对于像YOLOv2这样的弱检测器,只需学习有限的信息就能成功实施攻击,而对更鲁棒的检测器,攻击则难以奏效。

此外,研究表明,物理攻击不仅仅局限于目标本身,操控目标的背景也可以显著削弱模型的检测能力。

例如,通过在目标背景中添加物理补丁,可能比直接对目标实施补丁攻击更加实用。

未来方向

研究团队表示,当前的分析只是为提升深度学习模型鲁棒性提供了一个初步框架。接下来的工作将包括进一步优化基准测试框架,并进行更广泛的模型和噪声类型测试。

最终目标是推动遥感深度学习模型的安全性与鲁棒性提升,确保这些技术在环境监测、灾害响应和城市规划等关键应用中的可靠性和有效性。

欢迎交流

笔者长期从事人工智能、遥感、大模型等业务

欢迎添加微信交流

空天感知
专注商业航天、人工智能、气象水文等交叉学科,精选行业资讯,深耕AI业务落地
 最新文章