基于元适配合成弱监督的小样本文本排序
信息检索
2021-06-03 v2 计算与语言
摘要
神经信息检索（Neu-IR）的有效性往往依赖于大规模的领域内相关性训练信号，而在现实世界的排序场景中这些信号并非总是可得。为使 Neu-IR 的益处普及化，本文提出 MetaAdaptRank，一种域自适应学习方法，将 Neu-IR 模型从标签丰富的源域泛化到小样本目标域。借助源域海量相关性监督，MetaAdaptRank 对比式地为目标域合成大量弱监督信号，并通过元学习根据这些合成“弱”数据对 Neu-IR 模型目标域排序准确率的提升效果来重新加权。在网页、新闻与生物医学三个领域的 TREC 基准上的实验表明，MetaAdaptRank 显著提升了 Neu-IR 模型的小样本排序准确率。进一步分析表明，MetaAdaptRank 得益于其对比式弱数据合成与元重加权数据选择。本文的代码与数据可从 https://github.com/thunlp/MetaAdaptRank 获取。
引用
@article{arxiv.2012.14862,
title = {Few-Shot Text Ranking with Meta Adapted Synthetic Weak Supervision},
author = {Si Sun and Yingzhuo Qian and Zhenghao Liu and Chenyan Xiong and Kaitao Zhang and Jie Bao and Zhiyuan Liu and Paul Bennett},
journal= {arXiv preprint arXiv:2012.14862},
year = {2021}
}
备注
14 pages, accepted by ACL-IJCNLP 2021 (long paper)