分布锚回归
统计方法学
2022-05-25 v5
摘要
预测模型若训练数据与测试数据不来自同一分布，往往失效。对未见过的、受扰动的测试数据的分布外（OOD）泛化是预测模型所期望但难以实现的特性，且通常要求对数据生成过程（DGP）有强假设。在一种受因果启发的 OOD 泛化视角下，测试数据源于对 DGP 外生随机变量的特定一类干预，称为锚。由 Rothenhaeusler 等人（2021）提出的锚回归模型通过采用因果正则化来抵御测试数据中的分布偏移。然而，迄今为止锚回归仅用于平方误差损失，这不适用于删失连续或有序数据等常见响应。本文提出锚回归的分布版本，将该方法推广到具有至少有序样本空间的可能删失响应。为此，我们将一类用于分布回归的灵活参数化变换模型与更一般残差概念下的适当因果正则化相结合。在一个示例性应用和若干模拟情景中，我们展示了 OOD 泛化可实现的范围。
引用
@article{arxiv.2101.08224,
title = {Distributional Anchor Regression},
author = {Lucas Kook and Beate Sick and Peter Bühlmann},
journal= {arXiv preprint arXiv:2101.08224},
year = {2022}
}
备注
Updated preprint. Under review. 29 pages, 13 figures, 2 tables