剪枝如何影响长尾多标签医学图像分类器
计算机视觉与模式识别
2024-07-31 v1 人工智能
摘要
剪枝已成为压缩深度神经网络、减少内存占用和推理时间而不显著影响其整体性能的一种有力技术。然而，剪枝以何种微妙方式影响模型行为尚不清晰，尤其是对于临床环境中常见的长尾、多标签数据集。当部署剪枝模型用于诊断时，这一知识缺口可能带来危险后果，因为模型的意外行为可能影响患者健康。为填补该空白，我们首次分析了剪枝对从胸部X光片（CXR）诊断胸部疾病训练的神经网络的影响。在两个大型CXR数据集上，我们考察了哪些疾病受剪枝影响最大，并基于疾病频率和共现行为刻画了类别的“可遗忘性”。此外，我们识别出未压缩模型与重度剪枝模型预测不一致的个别CXR，即剪枝识别样本（PIEs），并开展人工阅片研究以评估其共性特征。我们发现放射科医生认为PIEs具有更多标签噪声、更低图像质量和更高诊断难度。本工作是为理解剪枝在深度长尾多标签医学图像分类中对模型行为影响的第一步。所有代码、模型权重和数据获取说明可在 https://github.com/VITA-Group/PruneCXR 找到。
引用
@article{arxiv.2308.09180,
title = {How Does Pruning Impact Long-Tailed Multi-Label Medical Image Classifiers?},
author = {Gregory Holste and Ziyu Jiang and Ajay Jaiswal and Maria Hanna and Shlomo Minkowitz and Alan C. Legasto and Joanna G. Escalon and Sharon Steinberger and Mark Bittman and Thomas C. Shen and Ying Ding and Ronald M. Summers and George Shih and Yifan Peng and Zhangyang Wang},
journal= {arXiv preprint arXiv:2308.09180},
year = {2024}
}
备注
Early accepted to MICCAI 2023