PZnet:多核 CPU 上高效的 3D 卷积网络推理
计算机视觉与模式识别
2019-03-19 v1 性能
摘要
卷积网络已被证明在许多生物医学图像分析任务中达到最先进的准确率。生物医学分析领域内的许多任务涉及分析由 CT、MRI 和显微镜采集方法获得的体素(3D)数据。为了在实用工作系统中部署卷积网络,解决高效推理问题十分重要。即,应能够使用有限的计算资源将已训练好的卷积网络应用于许多大图像。本文中我们提出 PZnet,一个仅使用 CPU 的引擎,可用于执行多种 3D 卷积网络架构的推理。对于流行的 U-net 架构,PZnet 比基于 MKL 的 PyTorch 和 Tensorflow 的 CPU 实现快 3.5 倍以上。此外,对于低特征图数量的 3D 卷积,PZnet 的云 CPU 推理在成本效率上优于云 GPU 推理。
引用
@article{arxiv.1903.07525,
title = {PZnet: Efficient 3D ConvNet Inference on Manycore CPUs},
author = {Sergiy Popovych and Davit Buniatyan and Aleksandar Zlateski and Kai Li and H. Sebastian Seung},
journal= {arXiv preprint arXiv:1903.07525},
year = {2019}
}