中文

HierLLM:用于题目推荐的层次化大语言模型

信息检索 2024-09-11 v1

摘要

题目推荐是一项为学生顺序推荐题目以提高其学习效率的任务。即,给定学生的学习历史和学习目标,题目推荐器应选择能为学生带来最大提升的题目。先前的方法通常将题目推荐建模为一个顺序决策问题,利用学习历史估计学生的学习状态,并将学习状态与学习目标一起输入神经网络,以从题目集中选择推荐的题目。然而,先前的方法面临两个挑战:(1) 在冷启动场景下学习历史不可用,这使得推荐器产生不恰当的推荐;(2) 题目集的规模非常大,这使得推荐器难以精确选择最佳题目。为了解决这些挑战,我们提出了一种名为层次化大语言模型用于题目推荐 (HierLLM) 的方法,它是一种基于 LLM 的层次化结构。基于 LLM 的结构使 HierLLM 能够利用 LLM 强大的推理能力来解决冷启动问题。层次化结构利用了概念数量远少于题目数量这一事实,通过首先确定待推荐题目的相关概念,然后基于该概念选择推荐的题目,从而缩小了可选题目的范围。这种层次化结构降低了推荐的难度。为了研究 HierLLM 的性能,我们进行了广泛的实验,结果证明了 HierLLM 的卓越性能。

关键词

引用

@article{arxiv.2409.06177,
  title  = {HierLLM: Hierarchical Large Language Model for Question Recommendation},
  author = {Yuxuan Liu and Haipeng Liu and Ting Long},
  journal= {arXiv preprint arXiv:2409.06177},
  year   = {2024}
}