在一小时内训练多尺度CNN用于大规模显微图像分类
图像与视频处理
2020-03-12 v2 计算机视觉与模式识别
摘要
现有训练使用大图像的神经网络的方法需要在预处理期间裁剪或下采样数据、使用小批量大小，或将模型拆分到多个设备上，这主要是由于 GPU 和新兴加速器上可用的内存容量极为有限。这些技术通常导致更长的收敛时间或训练时间（TTT），并且在某些情况下降低了模型精度。另一方面，CPU 可以利用大量内存。虽然在多 CPU 上并行化神经网络训练方面已做了大量工作，但很少关注在 CPU 上调整使用大图像的神经网络训练。在这项工作中，我们训练了一个多尺度卷积神经网络（M-CNN）在一小时内对用于高内涵筛选的大型生物医学图像进行分类。利用 CPU 上大内存容量的能力使我们能够扩展到更大的批量大小，而无需裁剪或下采样输入图像。结合大批量大小，我们找到了一种线性缩放学习率的通用方法，并在一小时内将 M-CNN 训练到 99% 的最先进（SOTA）精度。我们使用 128 个双路 Intel Xeon 6148 处理器节点（具有 192GB DDR4 内存，通过 100Gbps Intel Omnipath 架构连接）实现了快速收敛。
引用
@article{arxiv.1910.04852,
title = {Training Multiscale-CNN for Large Microscopy Image Classification in One Hour},
author = {Kushal Datta and Imtiaz Hossain and Sun Choi and Vikram Saletore and Kyle Ambert and William J. Godinez and Xian Zhang},
journal= {arXiv preprint arXiv:1910.04852},
year = {2020}
}
备注
15 pages, 10 figures