面向大规模计算系统的鲁棒异步牛顿法
分布式、并行与集群计算
2017-02-09 v1
摘要
志愿计算网格以相对较低的服务端运维成本提供了超级计算级别的算力。在先前的工作中,作者已表明,可以将传统的迭代演化算法通过异步执行的方式运行于志愿计算网格上。异步实现极大地提升了可扩展性,并减少了收敛到解所需的时间。基于MPI在集群和超级计算机上、以及基于BOINC在志愿计算网格上实现的迭代与异步优化算法,已被打包成一个通用分布式优化框架(FGDO)。本文提出FGDO的一个新扩展:用于局部优化的异步牛顿法(ANM)。ANM对异构、故障和不可靠的计算节点具有弹性,且极具可扩展性。初步结果表明,它收敛到局部最优的速度显著快于共轭梯度下降。
引用
@article{arxiv.1702.02204,
title = {A Robust Asynchronous Newton Method for Massive Scale Computing Systems},
author = {Travis Desell and Malik Magdon-Ismail and Heidi Newberg and Lee A. Newberg and Boleslaw K. Szymanski and Carlos A. Varela},
journal= {arXiv preprint arXiv:1702.02204},
year = {2017}
}