面向低资源域适应的增强循环对抗学习
机器学习
2019-01-25 v4 机器学习
摘要
训练模型执行任务通常需要来自任务将应用领域的海量数据。然而，数据在某些领域丰富而在其他领域稀缺的情况十分常见。域适应处理将基于数据丰富源域训练的模型调整以在数据贫乏目标域表现良好的挑战。一般而言，这需要学习领域间合理的映射。CycleGAN 是一个强大的框架，利用对抗训练和循环一致性约束高效学习将输入从一域映射到另一域。然而，在至少一个域训练数据有限的情况下，通过重构强制循环一致性的传统方法可能过于受限。本文中，我们提出一种增强循环对抗学习模型，通过外部任务特定模型强制循环一致性约束，其鼓励保留任务相关内容而非精确重构。我们在低资源设定下探索有监督、半监督与无监督情形以及高资源无监督下的数字分类。在低资源有监督设定中，结果表明我们的方法在 SVHN 到 MNIST 及反向适应时分别绝对性能提升 14% 和 4%，优于需要高资源无标签目标域的无监督域适应方法。此外，仅使用少量无监督目标数据，我们的方法仍优于许多高资源无监督模型。在语音领域，我们类似地采用各域的语音识别模型作为任务特定模型。我们的方法在 TIMIT 数据集中对女性说话人的语音识别绝对性能提升 2%，而训练样本大多来自男性声音。
引用
@article{arxiv.1807.00374,
title = {Augmented Cyclic Adversarial Learning for Low Resource Domain Adaptation},
author = {Ehsan Hosseini-Asl and Yingbo Zhou and Caiming Xiong and Richard Socher},
journal= {arXiv preprint arXiv:1807.00374},
year = {2019}
}
备注
14 pages, 5 figures, 8 tables; Accepted as a conference paper at ICLR 2019