共享与否：为模型迁移学习预测源集合
计算与语言
2021-11-01 v2 机器学习
摘要
在低资源场景下，模型迁移有助于克服许多任务和领域中标注数据的匮乏。然而，预测有用的迁移源是一个具有挑战性的问题，因为即便最相似的源也可能导致意想不到的负迁移结果。因此，基于任务和文本相似度的排序方法——如先前工作所建议——可能不足以识别有前景的源。为解决此问题，我们提出一种自动确定应利用哪些源以及利用多少源的新方法。为此，我们研究了模型迁移对各种领域和任务的序列标注的影响，并表明我们基于模型相似度与支持向量机的方法能够预测有前景的源，从而实现高达 24 个 F1 点的性能提升。
引用
@article{arxiv.2104.08078,
title = {To Share or not to Share: Predicting Sets of Sources for Model Transfer Learning},
author = {Lukas Lange and Jannik Strötgen and Heike Adel and Dietrich Klakow},
journal= {arXiv preprint arXiv:2104.08078},
year = {2021}
}
备注
Accepted at EMNLP 2021