点击下方“深度学习爱好者”，选择加"星标"或“置顶”
点击下方“深度学习爱好者”，选择加"星标"或“置顶”
论文信息
题目：Swin-UMamba: Mamba-based UNet with ImageNet-based pretraining
Swin-UMamba：基于ImageNet的预训练的基于Mamba的UNet网络
作者：Jiarun Liu，Hao Yang，Hong-Yu Zhou，Yan Xi，Lequan Yu，Cheng Li，Yong Liang，Guangming Shi，Yizhou Yu，Shaoting Zhang，Hairong Zheng，Shanshan Wang
源码链接：https://github.com/JiarunLiu/Swin-UMamba
论文创新点
首次尝试：作者是第一次尝试发现预训练的基于Mamba的网络在医学图像分割中的影响。实验验证了基于ImageNet的预训练对于基于Mamba的网络在医学图像分割中的重要性，有时是至关重要的。 提出的模型：作者提出了两个基于Mamba的网络Swin-UMamba和Swin-UMamba†，它们专门设计用于统一预训练模型的力量，并针对现实世界的部署具有不同的计算需求。这些模型展示了在各种医学图像分割数据集上优越的性能，能够以显著的优势超越以前的分割模型，包括CNN、ViT和最新的基于Mamba的模型。 基于ImageNet的预训练的影响：作者的实验表明，基于ImageNet的预训练为基于Mamba模型提供了多种优势，包括更高的分割准确性、稳定的收敛性、减轻过拟合问题、数据效率和更低的计算资源消耗。这些发现强调了预训练在提高基于Mamba模型在视觉任务中的性能和效率中的重要性。
摘要
关键词
2 方法
2.1 基于Mamba的VSS块
2.2 整合基于ImageNet的预训练
2.3 Swin-UMamba解码器
2.4 Swin-UMamba†：带有Mamba基解码器的Swin-UMamba
3 实验
声明
下载1：Pytoch常用函数手册 在「深度学习爱好者」公众号后台回复：Pytorch常用函数手册，即可下载全网第一份Pytorch常用函数手册，涵盖Tensors介绍、基础函数介绍、数据处理函数、优化函数、CUDA编程、多线程处理等十四章章内容。 下载2：Python视觉实战项目52讲 在「小白学视觉」公众号后台回复：Python视觉实战项目，即可下载包括图像分割、口罩检测、车道线检测、车辆计数、添加眼线、车牌识别、字符识别、情绪检测、文本内容提取、面部识别等31个视觉实战项目，助力快速学校计算机视觉。 交流群
欢迎加入公众号读者群一起和同行交流，目前有SLAM、三维视觉驶、计算摄影、检测、分割、识别、医学影像、GAN、算法竞赛等微信群（以后会逐渐细分），请扫描下面微信号加群，备注：”昵称+学校/公司+研究方向“，例如：”张三 + 上海交大 + 视觉SLAM“。请按照格式备注，否则不予通过。添加成功后会根据研究方向邀请进入相关微信群。请勿在群内发送广告，否则会请出群，谢谢理解~
