小波变换与深度学习结合，是近来AI顶会的新风向！光是CVPR24就有多篇收录，比如与CNN结合，实现运行时间减少60％的MLWNet；与attention结合，实现98.13％准确率的GestFormer……
主要在于，这种结合能够充分发挥小波变换的优势，帮助深度学习模型提高特征提取能力和计算效率，并优化模型性能！具体来说：小波变换能将信息分解为不同尺度的频率成分，使模型更好地理解和表示输入信息；且通过小波变换对信息进行预处理，可以降低复杂性和噪声，提高模型的训练效率和准确性。
此外，该思路目前还在蓝海期，创新空间很大！热门的结合方向，除了前文所提，还有与Transformer结合、与GNN结合、与KAN结合等。
为让大家能够紧跟领域前沿，掌握主流研究方法，我给大家准备了35种创新思路和源码！
扫描下方二维码，回复「小波魔改」
免费获取全部论文合集及项目代码
小波变换+CNN
Efficient Multi-scale Network with Learnable Discrete Wavelet Transform for Blind Motion Deblurring
内容：该研究提出了一种基于单输入多输出（SIMO）的多尺度网络，结合了可学习的离散小波变换（MLWNet），用于提高盲运动去模糊算法的性能。该网络通过简化传统粗到细方案的复杂性，利用小波变换的特性来关注图像从模糊到清晰过渡中的频率和方向特征，从而在多个真实世界的去模糊数据集上实现了在主观和客观质量以及计算效率方面的最先进性能。
小波变换+注意力机制
Wavelet-based Fourier Information Interaction with Frequency Diffusion Adjustment for Underwater Image Restoration
内容：该研究提出了一种名为WF-Diff的新型水下图像增强框架，该框架充分利用频域信息和扩散模型的特性，包含两个可分离的网络：基于小波的傅里叶信息交互网络（WFI2-net）和频率残差扩散调整模块（FRDAM）。WFI2-net旨在通过小波空间中的频域特性实现频率信息的初步增强，而FRDAM进一步精细化初始增强图像的高频和低频信息，可作为调整水下图像细节的即插即用通用模块。该算法在真实世界水下图像数据集上展现出了最先进的性能，并在视觉质量上取得了竞争性的表现。
扫描下方二维码，回复「小波魔改」
免费获取全部论文合集及项目代码
小波变换+Transformer
Wave-ViT: Unifying Wavelet and Transformers for Visual Representation Learning
内容：该研究提出了一种名为Wave-ViT的新型视觉Transformer架构，通过整合小波变换和自注意力学习，实现了可逆的下采样，以提高多尺度视觉任务的效率和准确性。Wave-ViT利用离散小波变换（DWT）进行无损下采样，并采用逆小波变换（IDWT）来增强自注意力输出，从而在保持计算效率的同时，提升了特征表示的能力，并在多个视觉任务中取得了优于现有ViT骨干网络的性能。
小波变换+GNN
Filter-informed Spectral Graph Wavelet Networks for Multiscale Feature Extraction and Intelligent Fault Diagnosis
内容：这篇研究论文提出了一种基于滤波器信息的谱图小波网络（SGWN），用于多尺度特征提取和智能故障诊断。SGWN通过结合谱图小波变换（SGWT）的领域知识，利用一个低通滤波器和多个带通滤波器来分解信号，实现多尺度特征提取，减轻了由于长期低通滤波引起的过平滑问题，并提高了模型的物理可解释性。该方法在收集的电磁阀和航空发动机中间轴轴承数据集上进行了验证，实验结果表明SGWN在诊断准确性和防止过平滑方面均优于比较方法，并且其提取的特征也具有可解释性。
小波变换+KAN
Wav-KAN: Wavelet Kolmogorov-Arnold Networks
内容：这篇论文介绍了一种名为Wav-KAN的新型神经网络架构，它结合了小波变换和Kolmogorov-Arnold网络（KAN）框架，以增强模型的可解释性和性能。Wav-KAN通过在KAN结构中融入小波函数，有效地捕捉输入数据的高频和低频成分，同时利用小波的多分辨率分析能力，提供了一种在保持参数效率和改善模型解释性的同时，对传统多层感知器（MLP）和最近提出的Spl-KAN进行改进的解决方案。实验结果表明，Wav-KAN在准确性和训练速度方面均优于Spl-KAN，展示了其在多种视觉任务中的潜力。
扫描下方二维码，回复「小波魔改」
免费获取全部论文合集及项目代码
