Prob2Vec：面向自适应辅导中题目检索的数学语义嵌入
计算机与社会
2020-03-25 v1 机器学习
机器学习
摘要
我们提出了一种用于自适应辅导中题目检索的嵌入技术应用。目标是检索数学概念相似的题目。存在两个挑战：首先，如同句子一般，对辅导有用的题目在底层概念上从未完全相同。相反，好的题目以创新方式混合概念，同时仍在其关系中表现出连续性。其次，人类难以在足够大的训练集上确定一致的相似度评分。我们提出了一种称为 Prob2Vec 的分层题目嵌入算法，由抽象与嵌入两个步骤组成。Prob2Vec 在题目相似度测试上达到 96.88% 的准确率，而直接应用最先进的句子嵌入方法仅为 75%。有趣的是，Prob2Vec 能够区分题目间非常细粒度的差异，这是一种人类需要花费时间与精力才能获得的能力。此外，不平衡训练数据集下的概念标注子问题本身也颇具趣味。它是一个遭受维度爆炸的多标签问题，我们提出了缓解方法。我们提出了新颖的负预训练算法，在使用不平衡训练数据集时显著降低了分类的假阴性与假阳性比例。
引用
@article{arxiv.2003.10838,
title = {Prob2Vec: Mathematical Semantic Embedding for Problem Retrieval in Adaptive Tutoring},
author = {Du Su and Ali Yekkehkhany and Yi Lu and Wenmiao Lu},
journal= {arXiv preprint arXiv:2003.10838},
year = {2020}
}