协变量偏移下的正则化参数估计研究
机器学习
2018-04-23 v1 机器学习
摘要
本文指出了在领域自适应设定下，通常的 L2 正则化参数估计过程存在的一个问题。在这种设定中，生成训练数据（源域）和测试数据（目标域）的分布之间存在差异。通常的交叉验证过程需要验证数据，而这些数据无法从无标签的目标数据中获得。问题在于，如果决定使用源域验证数据，则正则化参数会被低估。一种可能的解决方案是通过重要性加权对源域验证数据进行缩放，但我们表明这种校正并不充分。我们在文末对几种重要性权重估计器对正则化参数估计的影响进行了实证分析。
引用
@article{arxiv.1608.00250,
title = {On Regularization Parameter Estimation under Covariate Shift},
author = {Wouter M. Kouw and Marco Loog},
journal= {arXiv preprint arXiv:1608.00250},
year = {2018}
}
备注
6 pages, 2 figures, 2 tables. Accepted to ICPR 2016