基于多链条推理与微调RAG驱动大语言模型的课程论坛问答系统
计算与语言
2025-11-14 v1 计算机与社会
摘要
课程论坛日益重要,起到促进学生讨论和解答与课程相关问题的作用。它为学生提供了一个发布与课程内容和管理问题相关提问的平台。然而,随着学生人数的增加,这些问题存在若干挑战。主要挑战是学生的查询无法及时得到回应,而教师则要面对大量的重复问题。为缓解这些问题,我们提出一种基于大语言模型(LLM)的检索增强生成(RAG)方法的问答系统。本工作聚焦于设计基于开源大语言模型(LLM)并在相关课程数据集上进行微调的问答系统。为进一步提高性能,我们使用本地知识库,并应用RAG方法检索与学生查询相关的文档,其中本地知识库包含所有课程内容。为缓解LLM的幻觉问题,我们还将其与多链条推理(multi chain-of-thought reasoning)集成,以克服LLM幻觉的挑战。本工作在HotpotQA数据集上实验性地对微调的LLM与RAG方法进行测试。实验结果表明,采用RAG方法的微调LLM在问答任务上表现出色。
引用
@article{arxiv.2511.09831,
title = {Answering Students' Questions on Course Forums Using Multiple Chain-of-Thought Reasoning and Finetuning RAG-Enabled LLM},
author = {Neo Wang and Sonit Singh},
journal= {arXiv preprint arXiv:2511.09831},
year = {2025}
}
备注
8 pages