协变量偏移自适应何时需要重要性加权校正？
机器学习
2023-03-08 v1 机器学习
摘要
本文研究何时需要重要性加权（IW）校正来处理协变量偏移，这是监督学习中训练与测试数据输入分布不同的常见情形。经典结果表明，当模型为参数化且误设定时，需要 IW 校正。相反，近期结果表明当模型为非参数化且正确设定时，IW 校正可能不必要。我们考察了文献中缺失的情形，即模型为非参数化且误设定，并表明为了获得测试分布下真实未知函数的最佳近似，需要 IW 校正。我们通过分析 IW 校正的核岭回归来实现，涵盖了多种设定，包括参数化与非参数化模型、正确与误设定情形，以及任意加权函数。
引用
@article{arxiv.2303.04020,
title = {When is Importance Weighting Correction Needed for Covariate Shift Adaptation?},
author = {Davit Gogolashvili and Matteo Zecchin and Motonobu Kanagawa and Marios Kountouris and Maurizio Filippone},
journal= {arXiv preprint arXiv:2303.04020},
year = {2023}
}