中文

为域泛化动态解码源域知识

计算机视觉与模式识别 2021-12-07 v2

摘要

优化分类器在来自未见域样本上的性能仍是一项挑战。尽管现有域泛化研究多聚焦于学习域不变特征表示,多专家框架已被提出作为一种可行方案并展现出良好性能。然而,当前多专家学习框架在推理时未能充分利用源域知识,导致次优性能。本工作中,我们提出将 Transformer 用于动态解码源域知识以实现域泛化。具体而言,我们为每个源域构建一个域特定局部专家,并构建一个域无关特征分支作为查询。Transformer 编码器将所有域特定特征编码为记忆中的源域知识。在 Transformer 解码器中,域无关查询与记忆在交叉注意力模块中交互,与输入相似的域将对注意力输出贡献更多。由此,源域知识被动态解码,用于当前来自未见域输入的推理。该机制使所提方法能很好地泛化至未见域。所提方法在域泛化领域的三个基准上进行了评估,并相较最先进(SOTA)方法展现出最佳性能。

关键词

引用

@article{arxiv.2110.03027,
  title  = {Dynamically Decoding Source Domain Knowledge for Domain Generalization},
  author = {Cuicui Kang and Karthik Nandakumar},
  journal= {arXiv preprint arXiv:2110.03027},
  year   = {2021}
}