协变量偏移下的核鲁棒偏差感知预测
机器学习
2018-01-01 v1 人工智能
机器学习
摘要
在协变量偏移下,训练(源)数据与测试(目标)数据在输入空间分布上不同,但共享相同的条件标签分布。这构成了一项具有挑战性的机器学习任务。鲁棒偏差感知(RBA)预测提供对目标分布最坏情况对数损失鲁棒且匹配源分布特征期望约束的条件标签分布。然而,在特征约束不足的情况下使用 RBA 可能导致对大部分源数据的高确定性预测,同时给目标数据预测留下过多不确定性。为克服此问题,我们将表示定理扩展到 RBA 设定,使得能通过源分布下重新加权的核期望来最小化正则化期望目标风险。通过应用核方法,我们建立了一致性保证,并在具有人工偏置的 UCI 数据集以及具有自然协变量偏移的数据集上展示了 RBA 分类器优于对比方法的性能。
引用
@article{arxiv.1712.10050,
title = {Kernel Robust Bias-Aware Prediction under Covariate Shift},
author = {Anqi Liu and Rizal Fathony and Brian D. Ziebart},
journal= {arXiv preprint arXiv:1712.10050},
year = {2018}
}