基于检索增强多阶段训练的弱监督科学文档分类
计算与语言
2023-06-13 v1 信息检索
摘要
科学文档分类对广泛应用而言是一项关键任务，但获取海量人工标注数据的成本可能高得令人却步。为应对这一挑战，我们提出一种仅使用标签名的弱监督科学文档分类方法。在科学领域中，标签名常包含可能未出现在文档语料中的领域特定概念，使得标签与文档难以精确匹配。为解决此问题，我们提出 WANDER，其利用稠密检索在嵌入空间中执行匹配以捕捉标签名的语义。我们进一步设计标签名扩展模块以丰富标签名表示。最后，采用自训练步骤精炼预测。在三个数据集上的实验表明，WANDER 平均优于最佳基线 11.9%。我们的代码将发布于 https://github.com/ritaranx/wander。
引用
@article{arxiv.2306.07193,
title = {Weakly-Supervised Scientific Document Classification via Retrieval-Augmented Multi-Stage Training},
author = {Ran Xu and Yue Yu and Joyce C. Ho and Carl Yang},
journal= {arXiv preprint arXiv:2306.07193},
year = {2023}
}
备注
SIGIR 2023. The code and data will be published to https://github.com/ritaranx/wander