加速癌症研究的亿亿次深度学习
机器学习
2019-09-27 v1 分布式、并行与集群计算
机器学习
摘要
深度学习通过神经网络，在提供充足训练数据时已展现出自动化许多常规任务的卓越能力。神经网络架构（如层数、层类型、层间连接等）在决定神经网络能从训练数据中学习到什么（若有）方面起着关键作用。神经网络架构（尤其在 ImageNet 上训练的那些）的趋势是变得愈发更深且更复杂。其结果是在基准数据集上不断增长的准确率，代价是计算需求增加。本文中，我们证明神经网络架构可自动生成，针对特定应用定制，并具有双重目标：预测准确率与预测速度。使用 MENNDL——一个支持 HPC 的神经网络架构搜索软件栈——我们生成了在癌症病理数据集上与最先进网络准确率相当且推理速度快 的神经网络。推理加速是必要的，因为癌症病理数据的数量与产生速度；具体而言，先前最先进网络对无 HPC 系统访问权限的个体研究者而言过慢，无法跟上数据生成速率。我们的新模型使计算资源有限的研究者能比数据收集更快地分析新生成数据。
引用
@article{arxiv.1909.12291,
title = {Exascale Deep Learning to Accelerate Cancer Research},
author = {Robert M. Patton and J. Travis Johnston and Steven R. Young and Catherine D. Schuman and Thomas E. Potok and Derek C. Rose and Seung-Hwan Lim and Junghoon Chae and Le Hou and Shahira Abousamra and Dimitris Samaras and Joel Saltz},
journal= {arXiv preprint arXiv:1909.12291},
year = {2019}
}
备注
Submitted to IEEE Big Data