通过合成分布鲁棒专家进行序贯领域适配
机器学习
2021-06-02 v1 最优化与控制
机器学习
摘要
最小二乘估计器在少量目标域样本上训练时预测可能很差。监督领域适配旨在利用来自接近目标分布的源分布的额外有标签训练样本来提高预测精度。给定可用数据，我们研究新颖策略以合成一组关于矩条件鲁棒的最小二乘估计器专家。当使用Kullback-Leibler或Wasserstein型散度指定这些矩条件时，我们可借助凸优化高效找到鲁棒估计器。我们对所提鲁棒专家族使用Bernstein在线聚合算法，以对目标测试样本的序贯流生成预测。真实数据上的数值实验表明，鲁棒策略可能优于经验最小二乘估计器的非鲁棒插值。
引用
@article{arxiv.2106.00322,
title = {Sequential Domain Adaptation by Synthesizing Distributionally Robust Experts},
author = {Bahar Taskesen and Man-Chung Yue and Jose Blanchet and Daniel Kuhn and Viet Anh Nguyen},
journal= {arXiv preprint arXiv:2106.00322},
year = {2021}
}