面向无界协变量偏移的稳健共轨推断：权重剪裁技术
机器学习
2026-05-05 v1
摘要
共轨预测 (Conformal prediction, CP) 提供了强大的、分布无关的预测集合，但其保证依赖于训练和测试数据之间的可交换性，这在实际中常因协变量偏移而被违背。虽然加权共轨预测 (Weighted Conformal Prediction, WCP) 旨在处理此类偏移，但当分布间密度比无界且/或必须学习时，WCP 可能 suffer significant undercoverage。这是由于学习密度比的过拟合以及估计非共轨得分阈值的方差较大。为此，我们引入修剪最小二乘重要性拟合 (Clipped Least-Squares Importance Fitting, CLISF) 作为降低方差的方法进行密度比估计。具体而言，我们表明使用 CLISF 学习的密度比当输入 WCP 时，其期望 undercoverage 有上界。此外，我们表明可以通过运行略微扩大的覆盖目标来纠正 undercoverage；关键在于，我们能够从数据中估计所需的扩大程度。我们提供了权重剪裁在共轨推断中实现数据条件覆盖的第一个理论保证，其样本复杂度不会随着真实密度比的更高矩而爆炸——这一点是先前工作的关键局限。我们在真实基准和合成数据上验证了我们的结果。
关键词
引用
@article{arxiv.2605.02072,
title = {Weight Clipping for Robust Conformal Inference under Unbounded Covariate Shifts},
author = {James Wang and Surbhi Goel},
journal= {arXiv preprint arXiv:2605.02072},
year = {2026}
}