通道缩放：一种用于迁移学习的缩放与选择方法
计算机视觉与模式识别
2021-03-24 v1
摘要
利用预训练神经网络进行迁移学习是医学图像分析中训练分类器的常用策略。若缺乏恰当的通道选择，往往会导致模型不必要地庞大，从而阻碍部署与可解释性。本文提出一种新方法，通过引入通道缩放层来高效构建小巧且性能良好的网络。通道缩放层附着于每个冻结的卷积层，其可训练的缩放权重推断相应特征通道的重要性。与微调方法不同，我们保持原始通道的权重，且不需要大型数据集。通过对缩放权重施加 L1 正则化与阈值处理，该框架从预训练模型中迭代地移除不必要的特征通道。利用 ImageNet 预训练的 VGG16 模型，我们在胸部 X 射线图像的不透明度分类上展示了所提框架的能力。结果表明，我们能在将参数量减少 95% 的同时取得更优的性能。
引用
@article{arxiv.2103.12228,
title = {Channel Scaling: A Scale-and-Select Approach for Transfer Learning},
author = {Ken C. L. Wong and Satyananda Kashyap and Mehdi Moradi},
journal= {arXiv preprint arXiv:2103.12228},
year = {2021}
}
备注
This paper was accepted by the IEEE International Symposium on Biomedical Imaging (ISBI) 2021