DenoMamba: A fused state-space model for low-dose CT denoising

阅读笔记

问题分析

• CT图像的采集需要患者暴露于电离辐射下，会带来包括癌症在内的潜在风险。而低剂量CT（LDCT）虽然可以降低辐射剂量，但不可避免地引入了噪声，因此有必要开发高质量的去噪方法进行低剂量CT图像去噪。
• 近年来，基于深度学习的去噪方法已经取代了传统的LDCT去噪方法。但基于CNN的方法去噪性能较差，远程依赖捕获能力不足；基于transformer的自注意力方法尽管能够捕获全局依赖关系，但自注意力的开销较大；目前的研究大多数采用CNN混合transformer的方法，以平衡精度与计算资源消耗。
• 一种新型的深度学习模型架构：状态空间模型（SSM）有望保持全局建模依赖的同时并以线性复杂度建模。但先前研究只使用了图像域额信息，而忽略特征图通道之间的潜在关联，导致相互依赖性使用不当。

本文贡献

• 基于上述问题，本文提出了一种基于 SSM 的新型模型 DenoMamba，通过级联FuseSSM模块对空间SSM提取到的信息与通道SSM提取到的信息通过卷积进行融合。且本文是第一个将状态空间模型用于空间维度与通道维度的低剂量CT图像去噪方法研究。
• 引入了一种新颖的通道SSM模块，该模块通过将在通道维度上运行的转置 SSM 层与后续的门控卷积网络级联来提取通道上下文的高级特征信息。

网络结构

网络整体包括收缩路径与扩展路径两部分（现如今多称为编码器和解码器）。其中收缩路径主要包含2个3×3无填充卷积构成特征提取层，每个特征提取层后接一个ReLU激活函数与一个2×2最大池化层用于下采样。每次下采样后，特征图的通道数会加倍。扩展路径主要包含2×2上采样卷积层用于上采样，每次上采样后，特征图的通道数会减半。然后将上采样后的特征图与收缩路径中对应的特征图进行拼接，再经过2个3×3卷积层与ReLU激活函数进行特征提取。最后通过1×1卷积将64个特征图映射到所需的类别数（每个类别构成一个掩码特征图）。

训练设置

参数	取值
损失函数	交叉熵损失+逐像素softmax损失
优化器	随机梯度下降（SGD）
动量	0.99
初始化	He 初始化，标准差 $\sigma = \sqrt{2 / N}$

解读：该表格记录了U-Net的训练设置，包括优化器、学习率、学习率衰减策略和动量等超参数。

数据增强策略

• 因为本项目主要需要平移和旋转不变性，以及对变形和灰度变化的鲁棒性，因此主要采用了基于弹性形变与灰度偏移的数据增强方法。

实验结果

• 在ISBI 2012 EM挑战赛中，U-Net取得了最低的扭曲误差，但在Rand Error方面与Pixel Error没有取得最优成绩，但还是保持着几乎最优的水平。
• 在ISBI 2015细胞追踪挑战赛中，U-Net在光学显微镜图像细胞分割任务中以显著性优势获得第一名，远超传统方法。

关键图表记录

图 1：U-Net 的整体网络架构。左侧为收缩路径，用于提取上下文语义信息；右侧为扩张路径，用于逐步恢复空间分辨率并完成像素级预测。

图 2：U-Net 在 EM 分割挑战赛中的排名记录。

图 3：U-Net 在 ISBI 2015 细胞分割挑战赛中的排名记录。

补充内容

关于 U-Net 中输入尺寸、输出尺寸与感受野的关系，需要区分“空间尺寸收缩”和“理论感受野”。原始 U-Net 采用 valid convolution，因此输入 $572\times572$ 最终得到 $388\times388$ 输出，二者差值 $572-388=184$ 表示卷积导致的空间尺寸损失，而不是感受野大小；对应每侧被裁剪 $92$ 个像素。

感受野应按逐层递推计算：设第 $l$ 层感受野为 $r_l$，相邻特征点在原图上的间隔为 $j_l$，初始化 $r_0=1,j_0=1$。对于卷积或池化层，有

$$r_l=r_{l-1}+(k_l-1)j_{l-1},\qquad j_l=j_{l-1}s_l .$$

因此，两个 $3\times3$ 卷积后感受野为 $5$；再接 $2\times2$、stride=2 的池化时，感受野变为 $6$，而不是 $10$，因为池化融合的是相邻且高度重叠的特征区域。下采样真正翻倍的是 $j$，它会使后续卷积更快扩大感受野。按该公式估算，原始 U-Net 最终输出像素的理论感受野约为 $200\times200$。

此外，valid convolution 的较小输出并不必然只能对齐中心标签区域，也可理解为一种输入到不同标签裁剪区域的映射关系。与 same padding 相比，valid convolution 避免了边界处零填充带来的虚假上下文，但代价是输出区域缩小。