CADG：一种基于交叉注意力用于域泛化的模型
计算机视觉与模式识别
2023-02-14 v3
摘要
在域泛化（DG）任务中，模型仅使用来自源域的训练数据进行训练，以在未见目标域上实现泛化，这会遭受分布偏移问题。因此，学习一个聚焦于可用于多域分类的共同表示的分类器十分重要，以便该分类器也能在未见目标域上取得高性能。随着交叉注意力在各种跨模态任务中的成功，我们发现交叉注意力是一种对齐来自不同分布特征的有力机制。因此我们设计了一个名为 CADG（cross attention for domain generalization）的模型，其中交叉注意力发挥重要作用，以解决分布偏移问题。这样的设计使得分类器可被用于多域，从而该分类器能在未见域上良好泛化。实验表明，我们提出的方法在各种域泛化基准上相比其他单一模型取得了最先进的性能，甚至可取得优于某些基于集成方法的性能。
引用
@article{arxiv.2203.17067,
title = {CADG: A Model Based on Cross Attention for Domain Generalization},
author = {Cheng Dai and Yingqiao Lin and Fan Li and Xiyao Li and Donglin Xie},
journal= {arXiv preprint arXiv:2203.17067},
year = {2023}
}