CrossTrainer：基于损失重加权的实用域适应
机器学习
2019-05-08 v1 数据库
机器学习
摘要
域适应在给定特定领域训练数据和相关性未知的补充数据时，提供了一组强大的模型训练技术。当用户需要使用来自不同来源、不同质量或不同时间范围的数据开发模型时，这些技术非常有用。我们构建了 CrossTrainer，一个用于实用域适应的系统。CrossTrainer 利用损失重加权，在我们的实证分析中为多种数据集提供了一致的高模型准确率。然而，损失重加权对权重超参数的选择很敏感，而该超参数调优代价高昂。我们开发了利用损失重加权独特性质的优化方法，使 CrossTrainer 能够输出准确模型，同时与朴素超参数搜索相比缩短了训练时间。
引用
@article{arxiv.1905.02304,
title = {CrossTrainer: Practical Domain Adaptation with Loss Reweighting},
author = {Justin Chen and Edward Gan and Kexin Rong and Sahaana Suri and Peter Bailis},
journal= {arXiv preprint arXiv:1905.02304},
year = {2019}
}