一种利用窗口统计量改善医学图像分布外泛化的简单归一化技术
计算机视觉与模式识别
2022-07-15 v2
摘要
由于数据稀缺与数据异质性在医学图像中十分普遍，使用既往归一化方法训练良好的卷积神经网络（CNNs）在部署至新站点时可能表现不佳。然而，面向真实世界临床应用的可靠模型应能在分布内（IND）与分布外（OOD）数据（例如新站点数据）上均具备良好泛化能力。在本研究中，我们提出一种称为窗口归一化（WIN）的新颖归一化技术，以改善模型在异质医学图像上的泛化能力，它是现有归一化方法的一种简单而有效的替代方案。具体而言，WIN 利用在特征窗口上计算的局部统计量扰动归一化统计量。该特征级增强技术能很好地正则化模型并显著提升其 OOD 泛化能力。利用其优势，我们提出一种用于分类任务的新颖自蒸馏方法 WIN-WIN。WIN-WIN 通过两次前向传播与一致性约束即可轻松实现，可作为现有方法的简单扩展。在多种任务（6 项任务）与数据集（24 个数据集）上的大量实验结果证明了我们方法的通用性与有效性。
引用
@article{arxiv.2207.03366,
title = {A simple normalization technique using window statistics to improve the out-of-distribution generalization on medical images},
author = {Chengfeng Zhou and Songchang Chen and Chenming Xu and Jun Wang and Feng Liu and Chun Zhang and Juan Ye and Hefeng Huang and Dahong Qian},
journal= {arXiv preprint arXiv:2207.03366},
year = {2022}
}