用于医学图像分割的 U-Net 定点量化
图像与视频处理
2019-09-10 v2 机器学习
机器学习
摘要
模型量化被用于降低深度神经网络的内存消耗和计算时间。这是通过用比高精度浮点对应物更低的位分辨率来表示权重和激活来实现的。合适的量化水平与模型性能直接相关。降低量化精度（例如 2 位）减少了存储模型参数所需的内存量以及实现计算块所需的逻辑量，有助于降低整个系统的功耗。这些好处通常以精度下降为代价。主要挑战是在保持性能精度的同时尽可能地对网络进行量化。在本工作中，我们提出了一种针对 U-Net 架构的量化方法，U-Net 是医学图像分割中流行的模型。然后将我们的量化算法应用于三个数据集：（1）脊髓灰质分割（GM），（2）用于电子显微（EM）中神经元结构分割的 ISBI 挑战赛，以及（3）用于腹部 CT 扫描中胰腺分割的公开美国国立卫生研究院（NIH）数据集。所报告的结果表明，仅用 4 位表示权重、6 位表示激活，我们实现了 8 倍的内存需求降低，而 EM、GM 和 NIH 数据集的 dice 重叠分数分别仅损失 2.21%、0.57% 和 2.09%。我们的定点量化提供了精度和内存需求之间的灵活权衡，这是先前 U-Net 量化方法（如 TernaryNet）所未提供的。
引用
@article{arxiv.1908.01073,
title = {U-Net Fixed-Point Quantization for Medical Image Segmentation},
author = {MohammadHossein AskariHemmat and Sina Honari and Lucas Rouhier and Christian S. Perone and Julien Cohen-Adad and Yvon Savaria and Jean-Pierre David},
journal= {arXiv preprint arXiv:1908.01073},
year = {2019}
}
备注
Accepted to MICCAI 2019's Hardware Aware Learning for Medical Imaging and Computer Assisted Intervention