中文

面向反因果域偏移的不变量与可迁移表示

机器学习 2022-07-05 v1 人工智能

摘要

现实世界的分类问题必须应对域偏移,即模型部署的域与收集训练数据的域之间(潜在的)不匹配。处理此类问题的方法必须明确哪些结构在域间是共同的、哪些是可变的。一个自然的假设是因果(结构)关系在所有域中是不变的。那么,很自然地想学习一个仅依赖于其因果父节点的标签 YY 的预测器。然而,许多现实世界问题是“反因果”的,即 YY 是协变量 XX 的原因——在这种情况下,YY 没有因果父节点,朴素的因果不变性毫无用处。本文中,我们研究在特定域偏移概念下的表示学习,该概念既尊重因果不变性,又自然处理“反因果”结构。我们展示了如何利用域间共享的因果结构来学习一种表示,该表示既允许不变预测器,又允许在新域中快速适应。关键是将因果假设转化为分离“不变”与“非稳定”特征的学习原则。在合成和真实世界数据上的实验证明了所提出学习算法的有效性。代码见 https://github.com/ybjiaang/ACTIR。

关键词

引用

@article{arxiv.2207.01603,
  title  = {Invariant and Transportable Representations for Anti-Causal Domain Shifts},
  author = {Yibo Jiang and Victor Veitch},
  journal= {arXiv preprint arXiv:2207.01603},
  year   = {2022}
}