论文赏读 | TGRS | MambaHSI: 用于高光谱图像分类(语义分割)的空间光谱Mamba

文摘   科技   2024-07-31 23:30   荷兰  

 RS   DL 

论文介绍

题目:MambaHSI: Spatial–Spectral Mamba for Hyperspectral Image Classification

期刊:IEEE Transactions on Geoscience and Remote Sensing

论文:https://ieeexplore.ieee.org/document/10604894

代码:https://github.com/li-yapeng/MambaHSI

年份:2024

作者单位:武汉大学

创新点

  • 基于Mamba的HSI分类模型:该模型利用Mamba在建模长程依赖性和线性计算复杂度方面的优势,克服了传统CNN和Transformer模型的局限性。


  • 结合空间和光谱信息:提出了空间Mamba模块(SpaMB)和光谱Mamba模块(SpeMB),以捕捉对HSI分类至关重要的两种信息。


  • 自适应融合空间和光谱特征:利用空间光谱融合模块(SSFM)自适应融合空间和光谱特征。


数据

  • 帕维亚大学数据集(Pavia University)


    • 传感器:反射光学系统成像光谱仪(ROSIS)。

    • 波段数:103。

    • 尺寸:610×340 像素。

    • 类别:九个类别,包括各种城市和植被地物。

  • 休斯顿数据集(Houston):


    • 传感器:ITRES CASI 1500。

    • 波段数:144。

    • 尺寸:349×1905 像素。

    • 类别:16 个类别,如住宅、商业和植被。


  • WHU-Hi-HanChuan 数据集:


    • 传感器:Headwall Nano-Hyperspec。

    • 波段数:274(400 到 1000 nm)。

    • 尺寸:1217×303 像素。

    • 类别:多种地物类别,且包含七种作物,草莓、豇豆、大豆等。




  • WHU-Hi-HongHu(洪湖)数据集:


    • 传感器:Headwall Nano-Hyperspec。

    • 波段数:270(400 到 1000 nm)。

    • 尺寸:940×475 像素。

    • 标记像素:多种作物类别。

    • 类别:多种农作物及其不同品种。

方法

总体结构

1.嵌入层

功能:将光谱向量投射到像素级的嵌入空间。

  • 卷积层:使用 1×1 卷积核对输入进行卷积操作。

  • 组归一化(GN)层:对卷积后的结果进行归一化处理。

  • SiLU 激活函数:应用 SiLU 激活函数。

2.编码器

空间 Mamba 块(SpaMB):

目的:通过建模长距离依赖关系提取空间特征。

  • 展平输入嵌入。

  • 应用带有 GN 和 SiLU 激活的 Mamba 层。

  • 重塑并添加残差连接到输入嵌入。


光谱 Mamba 块(SpeMB):

目的:利用光谱连续性提取光谱特征。

  • 将光谱特征分组。

  • 展平分组后的光谱特征。

  • 应用带有 GN 和 SiLU 激活的 Mamba 层。

  • 重塑并添加残差连接到输入嵌入。


空间-光谱融合模块(SSFM):

目的:自适应地融合空间和光谱特征。

  • 估计空间和光谱特征的重要性。

  • 使用学习到的权重和残差连接融合特征。


3.分割头

分割头通过 1×1 卷积层生成最终的分类 logits,用于像素级别的分类预测。

结果和精度

精度对比

MambaHSI 在所有四个数据集上都取得了SOTA的结果,超越了其他基于 ML、GCN、CNN 和Transformer 的方法。

多个数据集上的精度值对比

多个数据集上的可视化对比

消融实验

复杂度分析

更多分析可见原文


欢迎关注CVPR 2024系列



因配置了AI回复功能,除关键词自动回复外,号内信息主要由AI大模型回复。如需资源、投稿、合作等,请直接联系小助手微信(添加请备注:咨询投稿合作加群,加群需备注姓名/昵称,单位和研究方向)。



关于AI回复功能:


公众号新增AI回复功能,已接入大模型,集成查找ArXiv论文、CSDN博文等功能



问题及讨论可直接在文章下方留言


相关链接:


论文赏读 | ECCV24 | 两阶段高光谱遥感图像分类(语义分割) 模型DSTC
论文赏读 | HyperSIGMA: 全球首个十亿级高光谱智能理解基础模型
论文赏读04 | 用于高光谱遥感土地利用分类的多模态Transformer
汇总 | Mamba+遥感论文汇总,涉及分类、分割、变化检测、全色锐化等, 代码均已开源
论文赏读 | Mamba YOLO: 基于SSM的YOLO 用于目标检测



  欢迎关注  


分享遥感与深度学习领域的技术、论文、书籍、新鲜事。



欢迎加入遥感与深度学习交流群(点此加入)


遥感与深度学习
聚焦遥感与深度学习,分享相关技术、论文、书籍、资讯,团队来自国内外著名期刊作者及审稿人
 最新文章