面向反因果域偏移的不变量与可迁移表示
机器学习
2022-07-05 v1 人工智能
摘要
现实世界的分类问题必须应对域偏移,即模型部署的域与收集训练数据的域之间(潜在的)不匹配。处理此类问题的方法必须明确哪些结构在域间是共同的、哪些是可变的。一个自然的假设是因果(结构)关系在所有域中是不变的。那么,很自然地想学习一个仅依赖于其因果父节点的标签 的预测器。然而,许多现实世界问题是“反因果”的,即 是协变量 的原因——在这种情况下, 没有因果父节点,朴素的因果不变性毫无用处。本文中,我们研究在特定域偏移概念下的表示学习,该概念既尊重因果不变性,又自然处理“反因果”结构。我们展示了如何利用域间共享的因果结构来学习一种表示,该表示既允许不变预测器,又允许在新域中快速适应。关键是将因果假设转化为分离“不变”与“非稳定”特征的学习原则。在合成和真实世界数据上的实验证明了所提出学习算法的有效性。代码见 https://github.com/ybjiaang/ACTIR。
引用
@article{arxiv.2207.01603,
title = {Invariant and Transportable Representations for Anti-Causal Domain Shifts},
author = {Yibo Jiang and Victor Veitch},
journal= {arXiv preprint arXiv:2207.01603},
year = {2022}
}