中文

视觉域适应的可辨识性与可迁移性几何理解

计算机视觉与模式识别 2024-07-16 v1 机器学习

摘要

为克服相同分布假设的限制,无监督域适应(UDA)中的不变表示学习在计算机视觉和模式识别领域取得了显著进展。在UDA场景中,训练和测试数据属于不同域,同时学习模型以具备不变性。最近,关于迁移性和辨识性之间经验联系日益受到关注,这是理解不变表示的关键。然而,这些能力的理论研究以及对所学习特征结构的深入分析尚未探索。本文从几何视角系统性地分析了迁移性和辨识性的基本要素。我们的理论结果提供了理解共正则化关系的见解,并证明了学习这些能力的可能性。从方法论角度看,这些能力被形式化为域/簇子空间之间的几何属性(即正交性和等价性),并可由多个矩阵的范数/秩之间的关系来刻画。推导出两种优化友好的学习原则,这些原则也确保了一些直观解释。此外,推导出共正则化参数的可行范围,以平衡这些几何结构的学习。基于理论结果,提出了一种以核范数优化来增强迁移性和辨识性的几何导向模型。广泛的实验结果验证了所提出模型在实际应用中的有效性,并确认在推导出的可行范围内,几何能力可以被充分学习。

关键词

引用

@article{arxiv.2407.09524,
  title  = {Geometric Understanding of Discriminability and Transferability for Visual Domain Adaptation},
  author = {You-Wei Luo and Chuan-Xian Ren and Xiao-Lin Xu and Qingshan Liu},
  journal= {arXiv preprint arXiv:2407.09524},
  year   = {2024}
}

备注

Accepted by IEEE Transactions on Pattern Analysis and Machine Intelligence (TPAMI)