受宿主-病原体协同进化启发的算法实现鲁棒 GAN 训练
神经与进化计算
2020-06-11 v2 机器学习
种群与进化
机器学习
摘要
生成对抗网络(GANs)是一对相互对抗训练的人工神经网络。生成器的输出与真实世界输入混合送入判别器,两个网络一直训练到达到均衡,此时判别器无法区分生成输入与真实输入。自提出以来,GANs 已能生成令人印象深刻的真实电影、图像和文本的仿品,其虚假性人类几乎难以察觉。尽管性能惊人,GANs 的训练至今仍更多是一门艺术而非可靠流程,很大程度上源于训练过程的稳定性。生成器容易出现模式丢弃和收敛到随机模式,必须通过计算代价高昂的多次重启来缓解。有趣的是,GANs 与生物学中病原体与其宿主免疫系统的协同进化有着惊人的相似性。在生物学语境下,大多数潜在病原体确实从未成功,并被宿主的免疫系统阻挡。然而有些足够高效,会带来严重病症和反复感染的风险。在此,我们探究该相似性以提出一种更鲁棒的 GANs 训练算法。我们通过实验表明,该方法在减少计算功耗的同时,提升了稳定性并具备更好的高质量图像生成能力。
关键词
引用
@article{arxiv.2006.04720,
title = {Host-Pathongen Co-evolution Inspired Algorithm Enables Robust GAN Training},
author = {Andrei Kucharavy and El Mahdi El Mhamdi and Rachid Guerraoui},
journal= {arXiv preprint arXiv:2006.04720},
year = {2020}
}
备注
8 pages, 10 figures