生成对抗神经网络的元胞训练之并行/分布式实现
分布式、并行与集群计算
2020-08-04 v3 神经与进化计算
摘要
生成对抗网络(GANs)被广泛用于学习生成模型。GANs 由两个网络组成,即生成器和判别器,它们应用对抗学习来优化其参数。本文提出了一种元胞竞争协同进化方法的并行/分布式实现,用于训练两个 GANs 种群。我们提出了一种分布式内存并行实现,以在高性能/超级计算中心上执行。在解决手写数字生成(MNIST 数据集样本)问题上,报告了高效的结果。此外,所提出的实现能够减少训练时间,并在考虑不同网格大小进行训练时良好地扩展。
引用
@article{arxiv.2004.04633,
title = {Parallel/distributed implementation of cellular training for generative adversarial neural networks},
author = {Emiliano Perez and Sergio Nesmachnow and Jamal Toutouh and Erik Hemberg and Una-May O'Reilly},
journal= {arXiv preprint arXiv:2004.04633},
year = {2020}
}
备注
This article has been accepted for publication in IEEE International Parallel and Distributed Processing Symposium, Parallel and Distributed Combinatorics and Optimization, 2020