雕琢效率：为端侧推理剪枝医学成像模型
计算机视觉与模式识别
2023-11-03 v2
摘要
利用 ML 进展来增强医疗保健系统可以改善患者预后。然而，早期研究中未加考量的工程决策无意中阻碍了此类方案在高吞吐量、端侧推理中的可行性，尤其是在涉及老旧硬件和多模态十亿像素图像的场景中。通过一个关于心脏病学分割的初步案例研究，我们强调了先前工作中配置不当的 ML 模型存在的额外运算复杂度，并证明可以使用剪枝将其削减以满足部署标准。我们的结果显示，在质量损失极小（~4%）的情况下实现了 1148 倍的压缩率，并且在更高压缩率下，在 CPU 上实现了比 GPU 基线更快的推理，这突出了在使用现成模型时考虑任务复杂度和架构细节的必要性。以此为基础，我们探讨了未来研究的途径，以简化临床研究人员的工作流程，从而更快地开发出更适合实际使用的模型。
引用
@article{arxiv.2309.05090,
title = {Sculpting Efficiency: Pruning Medical Imaging Models for On-Device Inference},
author = {Sudarshan Sreeram and Bernhard Kainz},
journal= {arXiv preprint arXiv:2309.05090},
year = {2023}
}
备注
Accepted at MedNeurIPS 2023