POEM:用于域不变表示的嵌入极化
计算机视觉与模式识别
2023-11-10 v1 人工智能
机器学习
摘要
处理分布外样本是深度视觉模型长期面临的挑战。特别地,域泛化(DG)是最相关的任务之一,旨在训练具有对新域泛化能力的模型。大多数现有 DG 方法秉持相同理念,即通过寻找域不变表示来最小化域间差异。相反,我们提出的方法 POEM 通过学习域不变与域特定表示并将其极化,从而获得强大的 DG 能力。具体而言,POEM 共同训练类别分类与域分类嵌入,同时通过最小化其特征间的余弦相似度(即嵌入的极化)来正则化使其正交。嵌入的清晰分离抑制了域不变嵌入中的域特定特征。POEM 的概念展示了一条增强表示域鲁棒性的独特方向,在与现有 DG 方法结合时带来了可观且一致的性能提升。在 PACS、VLCS、OfficeHome、TerraIncognita 和 DomainNet 数据集等流行 DG 基准上的大量仿真结果表明,POEM 确实促使类别分类嵌入更具域不变性。
引用
@article{arxiv.2305.13046,
title = {POEM: Polarization of Embeddings for Domain-Invariant Representations},
author = {Sang-Yeong Jo and Sung Whan Yoon},
journal= {arXiv preprint arXiv:2305.13046},
year = {2023}
}
备注
In Proceedings of the 37th AAAI Conference on Artificial Intelligence (AAAI) 2023, Washington D.C. USA