TernaryNet：基于稀疏与二值卷积的无 GPU 医疗三维分割快速深度模型推理
计算机视觉与模式识别
2018-07-03 v1
摘要
深度卷积神经网络（DCNN）目前在医学影像中无处不在。尽管其在包括分割、定位与预测在内的常见图像分析任务上展现出的通用性与高质量结果令人惊叹，但巨大的表征能力是以极高的计算量为代价的。这限制了其在无图形处理单元（GPU）的移动设备上进行图像引导介入与诊断（床旁）支持的实际应用。我们提出了一种新方案，用三值近似深度网络中的可训练权重与神经激活，并解决了处理不可微函数时反向传播的开放问题。我们的方案能够在任意卷积神经网络中去除昂贵的浮点矩阵乘法，并将其替换为保持能耗与时间的二值算子与总体计数（population counts）。我们的方法使用全卷积网络（FCN）进行 CT 胰腺分割，使内存需求降低逾 10 倍，并给出了无 GPU 亚秒级推理的概念。我们的三值近似在无任何后处理的情况下取得高准确度，Dice 重叠率达 71.0%，且在统计上等同于使用高精度权重与激活的网络。我们进一步展示了相较于二值量化以及在不采用我们所提出的三值双曲正切延续时的显著改进。我们提出了一种在无 GPU 下实现高效 DCNN 推理的关键使能技术，将有助于把深度学习的进展带入实际临床应用。其在大规模医学数据检索中提升准确度方面也具有很大前景。
引用
@article{arxiv.1801.09449,
title = {TernaryNet: Faster Deep Model Inference without GPUs for Medical 3D Segmentation using Sparse and Binary Convolutions},
author = {Mattias P. Heinrich and Max Blendowski and Ozan Oktay},
journal= {arXiv preprint arXiv:1801.09449},
year = {2018}
}