TIP | 武大团队提出跨模态异常检测模型UniADRS, 用于遥感图像

文摘   2024-11-15 10:30   荷兰  

 RS   DL 

论文介绍

题目:Learning a Cross-modality Anomaly Detector for Remote Sensing Imagery

期刊:IEEE Transactions on Image Processing, IF = 10.8

论文:https://ieeexplore.ieee.org/abstract/document/10747828

代码:https://github.com/Jingtao-Li-CVer/UniADRS

年份:2024
单位:武汉大学

创新点

  • 跨模态异常检测模型:提出了无需依赖特定背景分布的跨模态异常检测模型UniADRS,通过学习图像无关的偏差度量,实现了不同模态之间的直接迁移检测能力。

  • 大间隔排序损失:设计了像素级和特征级的大间隔损失函数,用于优化偏差排序,使得模型即使在未见样本中也能正确区分背景与异常。这一设计理论上保证了在有限的标记样本下实现模型的迁移能力。

  • 异常模拟策略:在无监督设置中提出了一种异常模拟方法,通过在光谱和空间域中模拟异常样本,将原本的无监督异常检测任务转化为伪监督学习任务,确保模型在无真实异常样本的情况下依然能够有效训练。

  • 适用于多模态的统一框架:模型能够在高光谱、可见光、SAR、红外和低光照等五种模态下工作,且无需针对特定模态或场景重新训练,具备零样本迁移能力。

数据

本文的数据集涵盖了五种模态,包括高光谱、可见光、SAR、红外和低光照图像,用于验证模型的跨模态异常检测能力。

  • 高光谱数据:来自Cri数据集,以及WHU-Hi-Park和WHU-Hi-Station两个大规模无人机数据集,共包含82个场景,分辨率为4–8厘米。
  • 可见光数据:从Google Earth中收集,分辨率为0.5–2米,图像尺寸为1044×915,包含100个场景,异常目标包括飞机等。
  • SAR数据:数据来源于高分三号卫星和哨兵一号卫星,分辨率为3–10米,图像尺寸为256×256,包含100个场景,异常目标主要为不同种类的船只。
  • 红外数据:无具体传感器来源,图像尺寸为173×98或407×305,包含100个场景,异常目标包括车辆、微弱光源等。
  • 低光照数据:拍摄于夜间,由Indigo NV-400-M传感器采集,图像尺寸为2048×2048,包含100个场景。

方法

本文提出的UniADRS模型通过图像无关的偏差度量学习、多尺度大间隔排序损失、异常模拟策略等,实现了跨模态异常检测。

1. 图像无关的偏差度量学习
传统异常检测模型需要学习每种模态的背景分布,而本模型直接学习图像无关的偏差度量,用来对每个像素赋予偏差分数。这种方法无需重新训练即可适用于新模态,实现“零样本”迁移检测。

2. 大间隔排序损失
为保证跨模态检测精度,设计了像素级和特征级的大间隔排序损失:
  • 像素级损失:直接优化像素偏差评分,确保异常像素的偏差分数更高,并在分类正确时也鼓励拉大异常与背景分数的差距。

  • 特征级损失:在特征空间中将异常和背景分开,通过扩大特征间隔和紧缩特征分布,提升跨模态鲁棒性。
3. 异常模拟策略
由于实际异常数据有限,设计了光谱和空间域的异常模拟策略,将任务转化为“伪监督学习”:
  • 光谱模拟:通过光谱扰动生成模拟异常像素,训练模型分辨光谱异常。

  • 空间模拟:生成包含大背景物体和小异常物体的图像,以提升模型的空间异常识别能力。

4. 多模态兼容架构
模型包含光谱分支和空间分支,分别处理高光谱数据和其他模态数据,实现多模态兼容。推理时根据模态选择相应分支,无需微调,具备跨模态检测能力。
5. 高效的训练与推理

UniADRS采用端到端流程,不依赖复杂背景建模,通过图像分块加速推理,在各模态下均可快速检测,适用于实时和大规模遥感应用。

结果与分析

精度对比

可视化对比

更多图表分析可见原文


因配置了AI回复功能,除关键词自动回复外,号内信息主要由AI大模型回复。如需资源、投稿、合作等,请直接联系小助手微信(添加请备注:咨询投稿合作加群,加群需备注姓名/昵称,单位和研究方向)。

公众号欢迎优秀作者投稿!可加入优秀论文作者群:欢迎加入AI遥感优秀论文作者群!


问题及讨论可直接在文章下方留言


相关链接:

论文赏读 | TIP | TTST: 用于遥感超分辨率重建的可动态选择token的Transformer网络


  欢迎关注  


分享遥感与深度学习领域的技术、论文、书籍、新鲜事。



欢迎加入遥感与深度学习交流群(点此加入)


遥感与深度学习
聚焦遥感与深度学习,分享相关技术、论文、书籍、资讯,团队来自国内外著名期刊作者及审稿人
 最新文章