通过因果正则化实现多变量分析的分布外鲁棒性
机器学习
2025-03-12 v3 机器学习
应用统计
统计方法学
摘要
我们提出了一种基于因果关系的经典机器学习算法正则化策略,确保对分布偏移的鲁棒性。基于锚点回归框架,我们展示了如何将简单的正则化项纳入经典多变量分析算法(如(正交归一化)偏最小二乘、降秩回归和多元线性回归)的损失函数中,从而实现分布外泛化。我们的框架允许用户高效地验证损失函数与正则化策略的兼容性。提供了选定算法的估计量,在合成和真实世界的气候科学问题中展示了一致性和有效性。实证验证突出了锚点正则化的多功能性,强调了其与多变量分析方法的兼容性,以及在增强可重复性的同时防范分布偏移的作用。扩展的锚点框架推进了因果推断方法论,满足了可靠分布外泛化的需求。
引用
@article{arxiv.2403.01865,
title = {Out-of-distribution robustness for multivariate analysis via causal regularisation},
author = {Homer Durand and Gherardo Varando and Nathan Mankovich and Gustau Camps-Valls},
journal= {arXiv preprint arXiv:2403.01865},
year = {2025}
}
备注
26 pages, 15 figures, 5 tables