具有未观测混杂因素的工具变量驱动域泛化
机器学习
2023-05-26 v2 计算机视觉与模式识别
摘要
域泛化（DG）旨在从多个源域学习一个能在未见目标域上良好泛化的模型。现有 DG 方法主要学习输入特征不变边际表示的分布，然而，给定输入特征的标签条件分布的不变性对未知域预测更为关键。同时，存在同时影响输入特征与标签的未观测混杂因素，其导致伪相关并阻碍条件分布中不变关系的学习。有趣的是，通过对数据生成过程的因果视角，我们发现一个域的输入特征对其他域是有效的工具变量。受此发现启发，我们提出一种工具变量驱动的 DG 方法（IV-DG），通过两阶段学习消除未观测混杂因素的偏差。第一阶段学习一个域输入特征给定另一域输入特征的条件分布；第二阶段利用所学条件分布预测标签来估计该关系。理论分析与仿真实验表明其准确捕捉了不变关系。在真实数据集上的大量实验证明 IV-DG 方法取得了最先进（SOTA）结果。
引用
@article{arxiv.2110.01438,
title = {Instrumental Variable-Driven Domain Generalization with Unobserved Confounders},
author = {Junkun Yuan and Xu Ma and Ruoxuan Xiong and Mingming Gong and Xiangyu Liu and Fei Wu and Lanfen Lin and Kun Kuang},
journal= {arXiv preprint arXiv:2110.01438},
year = {2023}
}
备注
Accepted by ACM Transactions on Knowledge Discovery from Data (TKDD)