中文

域泛化中重构损失与特征对齐之间的权衡

机器学习 2022-10-28 v1 计算机视觉与模式识别

摘要

域泛化(Domain generalization, DG)是迁移学习的一个分支,旨在多个已见域上训练学习模型,然后将这些预训练模型应用于其他未见(未知但相关)的域。为了应对DG中未见域的数据和标签在训练时均不可用的挑战性设置,最常见的方法是基于域不变表征特征(即在域之间保持不变且可迁移的潜在表征)来设计分类器。与普遍看法相反,我们表明,仅基于不变表征特征设计分类器对于DG是必要但不充分的。我们的分析表明,有必要对表征函数引起的重构损失施加约束,以在潜在空间中保留大部分与标签相关的信息。更重要的是,我们指出了在DG中最小化重构损失与实现域对齐之间的权衡。我们的理论结果催生了一个新的DG框架,该框架联合优化重构损失和域差异。我们提供了理论和数值结果来验证我们的方法。

关键词

引用

@article{arxiv.2210.15000,
  title  = {Trade-off between reconstruction loss and feature alignment for domain generalization},
  author = {Thuan Nguyen and Boyang Lyu and Prakash Ishwar and Matthias Scheutz and Shuchin Aeron},
  journal= {arXiv preprint arXiv:2210.15000},
  year   = {2022}
}

备注

13 pages, 2 tables