TagRec:基于层次学习分类法的题目自动标注
计算与语言
2021-07-23 v1
摘要
在线教育平台依据层次学习分类法(学科—章节—主题)组织学术题目。将新题目自动标注至已有分类法有助于将其归入不同层次的分类类别,从而可按章节等切面检索。该任务可建模为扁平多类分类问题。通常,基于扁平分类的方法忽略层次分类法与题目间术语的语义关联;一些传统方法因仅考虑叶节点而忽视层次,也存在类不平衡问题。为此,我们将其建模为基于相似度的检索任务,优化分类法与题目的语义关联。我们证明该方法有助于处理未见标签,可用于实际环境下的分类法标注。方法中,我们将题目与其对应答案拼接以捕获更多语义信息,再将问答对的上下文嵌入与相应标签(分类法)向量表示对齐。表示通过微调基于 transformer 的模型来对齐,损失函数由余弦相似度与 hinge 排序损失组合而成,该函数最大化问答对与正确标签表示的相似度,最小化与无关标签的相似度。最后,我们在两个真实数据集上实验,所提学习方法在 Recall@k 上比多类分类法及其他 SOTA 方法提升 6%。我们还展示了该方法在未见但相关的学习内容(如学习目标)上无需重训网络的表现。
引用
@article{arxiv.2107.10649,
title = {TagRec: Automated Tagging of Questions with Hierarchical Learning Taxonomy},
author = {Venktesh V and Mukesh Mohania and Vikram Goyal},
journal= {arXiv preprint arXiv:2107.10649},
year = {2021}
}
备注
16 pages, accepted at ECML-PKDD 2021