Beta-Rank：一种用于不平衡医学图像分析的鲁棒卷积滤波器剪枝方法
计算机视觉与模式识别
2023-06-27 v2
摘要
由于深度神经网络包含大量参数与运算，在这些模型上部署于计算资源受限的设备可能是一项挑战。尽管面向资源高效模型的新颖剪枝方法不断发展，但已明显看出这些模型无法处理“不平衡”和“数据点数量有限”的情况。我们提出了一种新颖的滤波器剪枝方法，通过考虑滤波器的输入与输出以及滤波器的值，比其他方法更能应对不平衡数据集。我们的剪枝方法考虑到，滤波器重要性的所有信息可能并未反映在滤波器的值中，而是反映在滤波器应用于数据后数据所发生的变化中。本工作中，在除各方法排序值外训练条件相同的情况下比较了三种方法，并与其它论文中的 14 种方法进行比较。我们证明了我们的模型在不平衡医学数据集上显著优于其他方法。例如，当我们在 IDRID 数据集上移除多达 58% 的 FLOPs、在 ISIC 数据集上移除多达 45% 的 FLOPs 时，我们的模型能够产生与基线模型相当（甚至更优）的结果。为在真实场景中评估使用我们模型的 FLOP 与参数缩减，我们构建了一款智能手机应用，其中我们展示了内存占用降低多达 79%、预测时间减少 72%。所有训练不同模型的代码与参数可在 https://github.com/mohofar/Beta-Rank 获取。
引用
@article{arxiv.2304.07461,
title = {Beta-Rank: A Robust Convolutional Filter Pruning Method For Imbalanced Medical Image Analysis},
author = {Morteza Homayounfar and Mohamad Koohi-Moghadam and Reza Rawassizadeh and Varut Vardhanabhuti},
journal= {arXiv preprint arXiv:2304.07461},
year = {2023}
}
备注
13 pages, 3 figures, and 3 tables