即插即用Mamba模块全新突破！无缝集成，无痛涨点

Mamba入局图像复原了！基于Mamba的图像复原基准模型MambaIR性能超越SwinIR，达成新SOTA！

MambaIR是一种引入通道注意力和局部增强的即插即用Mamba模块。这类高效、创新的模块在写论文时可以帮助我们简化模型的构建过程，通过将这些模块集成到现有的网络架构中，我们可以轻松提高模型的性能。

除此之外，即插即用Mamba模块还可以通过降低计算复杂度，提高模型的计算效率，尤其是在处理长序列和大规模数据时。比如零参数、即插即用的方法Zigzag Mamba，无需额外参数调整，速度和内存利用率显著提升。

为方便大家理解和运用，本次分享2024最新的即插即用Mamba模块。这些模块的来源文章以及代码我都整理了，并简单罗列了创新点，更详细的工作细节建议各位仔细阅读原文。

论文原文以及开源代码需要的同学看文末

MambaIR: A Simple Baseline for Image Restoration with State-Space Model

方法：论文介绍了一种名为MambaIR的基于Mamba模型的图像恢复方法，是引入通道注意力和局部增强的即插即用Mamba模块，用于解决现有恢复网络在全局感知范围和计算效率之间的平衡困境。

创新点：

作者的首要创新贡献是将Transformer应用于图像恢复任务，以解决CNN方法在全局依赖建模方面的挑战。
作者提出了一种名为Mamba的高效状态空间模型，用于图像恢复，并通过引入局部增强和通道注意力来改善模型的性能。
作者设计了一种新的残差状态空间块结构，用于Mamba-based图像恢复网络，以更好地模拟全局依赖关系。

MambaTab: A Simple Yet Effective Approach for Handling Tabular Data

方法：论文介绍了一种针对表格数据的轻量级学习模型MambaTab。MambaTab基于结构化状态空间模型（SSM）开发，通过高效地提取具有长期依赖性的有效表示来改进性能。

MambaTab具有高效性、可扩展性、普适性和预测性能，是一种轻量级的、即插即用的解决方案，可广泛应用于各种表格数据，为实际应用提供了更多可能性。

创新点：

极小的模型大小和学习参数数量：与现有的基线模型相比，MambaTab在表现上具有明显的优势，同时模型大小和学习参数数量都显著减少，这意味着它在数据处理和资源需求方面更具可扩展性和可访问性。
引入了Mamba模块和层归一化技术：Mamba模块是一种新型的SSM变体，能够有效地从具有长程依赖关系的数据中提取有意义的表示。与此同时，层归一化技术被应用于嵌入表示中，进一步提升了MambaTab模型的性能。

ZigMa: A DiT-style Zigzag Mamba Diffusion Model

方法：论文提出了一种简单的、即插即用、零参数的方法，名为Zigzag Mamba，它优于基于Mamba的基线，并且相对于基于变压器的基线表现出更好的速度和内存利用率。通过将交叉注意力机制纳入Mamba模块中，该方法还可以促进文本到图像的生成。

创新点：

提出了一种名为Zigzag Mamba的新的扩散模型，该模型通过使用空间连续的Zigzag扫描路径来最大程度地利用2D图像的归纳偏差，从而解决了空间连续性的关键问题。
提出了一种将3D Mamba分解为2D和1D Zigzag Mamba的方法，以优化性能，并且可以根据需要调整其应用顺序，从而更好地利用空间和时间相关性。

nnMamba: 3D Biomedical Image Segmentation, Classification and Landmark Detection with State Space Model

方法：本文提出了nnMamba，一种结合了CNNs的局部表示能力和SSMs的先进的长程建模能力的新型架构。具体而言，本文引入了Mamba-In-Convolution with Channel-Spatial Siamese learning（MICCSS）模块来建模体素之间的长程关系。对于密集预测和分类任务，本文还设计了通道缩放和通道顺序学习方法。

创新点：

Mamba-In-Convolution with Channel-Spatial Siamese learning（MICCSS）模块，用于模拟体素之间的长程关系。
基于Mamba的通道缩放和通道顺序学习方法，用于密集预测和分类任务。
nnMamba在3D图像分割、分类和标志点检测等具有挑战性的任务中，表现出比现有方法更优越的性能。
nnMamba结合了CNN的局部表示能力和SSM的高效全局上下文处理能力，为医学图像分析中的长程依赖建模设定了新的标准。