面向并行网络中大规模层析重建的块随机梯度下降法
分布式、并行与集群计算
2019-03-29 v1
摘要
与基于反投影的方法相比，迭代算法在线性层析图像重建方面具有诸多优势。然而，迭代方法的计算复杂度往往显著更高。为克服这一点，能够利用多个计算节点的并行处理方案是可取的。此类方法中流行的是行作用法（每次迭代同时更新整幅图像）和列作用法（每个节点需要访问所有测量值）。在每节点存储容量有限的大规模层析重建中，节点间的数据通信开销成为显著的性能限制因素。为降低该开销，我们提出了一种行作用法 BSGD。该方法基于随机梯度下降法，但每次迭代不更新整幅图像，从而减少了节点间通信。为进一步提高收敛速度，提出了一种重要性采样策略。我们将 BSGD 与其他现有随机方法进行比较，展示了其有效性与高效性。还探讨了 BSGD 的其他性质，包括其融入全变分（TV）正则化与自动参数调优的能力。
引用
@article{arxiv.1903.11874,
title = {Block stochastic gradient descent for large-scale tomographic reconstruction in a parallel network},
author = {Yushan Gao and Ander Biguri and Thomas Blumensath},
journal= {arXiv preprint arXiv:1903.11874},
year = {2019}
}