学生数据悖论与单一学生-教师模型的奇异案例：训练大语言模型进行个性化学习的倒退效应

追求个性化教育已导致将大型语言模型（LLM）集成到开发智能辅导系统中。为了更好地理解并适应个体学生的需求，包括他们的误解，LLM需要在学生-教师对话的大型数据集上进行训练。我们的研究揭示了这一方法中的一个根本性挑战：“学生数据悖论”。当LLM在学生数据上进行训练以理解学习者行为时，这些模型不慎会损害自身的事实知识和推理能力。我们通过在学生-教师对话数据集上训练最先进的语言模型，并在多个基准测试中评估其表现来研究这一悖论。这些基准测试评估了语言模型能力的 various aspects，包括推理、真实性和常识理解。我们的发现显示，针对学生行为进行训练后，这些模型在这些多样化基准测试中的表现显著下降，表明在学习学生行为方面对其能力有广泛影响。我们的研究作出两个主要贡献：（1）通过模型性能的定量分析对学生数据悖论进行经验性证明，（2）引入“幻觉标记”作为缓解策略。这些标记虽然改进了性能，但也凸显了在准确建模学生行为与维持LLM作为教育工具完整性之间存在持久挑战的难题。这项研究强调了需要创新解决方案来解决忠实理解多样化学生认知同时保持模型提供准确信息和指导能力之间矛盾目标的挑战。