环境自适应协变量选择:用于外分布预测的虚假关联使用时机学习
统计方法学
2026-01-06 v1 机器学习
摘要
外分布(OOD)预测通常通过限制模型使用因果或不变协变量来实现,避免可能在不同环境下不稳定的非因果 spurious关联。尽管该策略在理论上具有吸引力,但在实际应用中常常不如经验风险最小化(ERM)表现好。我们研究了这一差距的根源,表明当真实原因的子集未被观测时,这类失败自然发生。在此情境下,非因果的虚假协变量可作为未观测原因的informative代理,显著提升预测效果,但仅当分布迁移未破坏这些代理关系时。因此,最优的预测协变量集既非普适,也不一定在所有环境中都 exhibits 不变的与结果关系,而是取决于具体迁移类型。关键的是,我们注意到不同的协变量迁移会在协变量分布本身引发distinct、可观测的特征。此外,这些特征可从目标OD环境中未标记的数据中提取,用于评估代理协变量是否可靠,以及何时会失败。基于此,我们提出了环境自适应协变量选择(EACS)算法,将环境级协变量概览映射到环境特定的协变量集,同时允许纳入先验因果知识作为约束。在各种仿真和实际数据集上,EACS在多样化的分布迁移下 consistently 优于静态因果、不变和ERM-based预测器。
引用
@article{arxiv.2601.02322,
title = {Environment-Adaptive Covariate Selection: Learning When to Use Spurious Correlations for Out-of-Distribution Prediction},
author = {Shuozhi Zuo and Yixin Wang},
journal= {arXiv preprint arXiv:2601.02322},
year = {2026}
}