嵌入复杂度在域不变表示中的作用
机器学习
2019-10-15 v1 机器学习
摘要
无监督域适应旨在将源域中训练得到的假设推广到无标签的目标域。解决该问题的一个流行方法是为两个域学习域不变的嵌入。在这项工作中,我们从理论和经验上研究了嵌入复杂度对目标域泛化的影响。具体而言,该复杂度影响了目标风险的一个上界;这一点也在实验中有所体现。接下来,我们将理论框架具体应用于多层神经网络。据此,我们提出了一种缓解对嵌入复杂度敏感性的策略,并在经验上取得了与最佳层依赖复杂度权衡相当或更好的性能。
引用
@article{arxiv.1910.05804,
title = {The Role of Embedding Complexity in Domain-invariant Representations},
author = {Ching-Yao Chuang and Antonio Torralba and Stefanie Jegelka},
journal= {arXiv preprint arXiv:1910.05804},
year = {2019}
}