平衡子采样稳定预测
机器学习
2020-06-09 v1 统计方法学
机器学习
摘要
在机器学习中,通常假设训练数据与测试数据来自同一总体分布。然而,这一假设在实践中常被违背,因为样本选择偏差可能导致从训练数据到测试数据的分布偏移。这种与模型无关的分布偏移通常导致在未知测试数据上预测的不稳定。本文提出一种基于分式析因设计理论的新型平衡子采样稳定预测(BSSP)算法。它从混杂变量中分离出每个预测变量的清晰效应。设计理论分析表明,所提方法能够减少由分布偏移引起的预测变量间的混杂效应,从而同时提高参数估计的精度与预测稳定性。在合成与真实世界数据集上的数值实验表明,我们的 BSSP 算法在未知测试数据上的稳定预测显著优于基线方法。
引用
@article{arxiv.2006.04381,
title = {Balance-Subsampled Stable Prediction},
author = {Kun Kuang and Hengtao Zhang and Fei Wu and Yueting Zhuang and Aijun Zhang},
journal= {arXiv preprint arXiv:2006.04381},
year = {2020}
}