SMART 记忆法听起来像“Glue Tonic”:将 LLM 与学生反馈混合,让记忆法更有效
计算与语言
2024-10-07 v2
摘要
关键词记忆法是将新术语链接到更简单关键词的可记忆解释。现有工作为学生生成记忆法,但未利用学生偏好的记忆法进行模型训练。我们构建 SMART,一个基于真实学习新术语的学生反馈训练的记忆法生成器。为训练 SMART,我们首先在精选的用户编写记忆法数据集上对 LLaMA-2 进行微调。随后,我们采用 LLM 对齐技术提升 SMART:我们将 SMART 生成的记忆法部署于闪卡应用中,以发现学生偏好的记忆法。我们收集了来自 45 名学生的 2684 条偏好数据,涵盖两种类型:显式偏好(来自评分推断)和观察偏好(来自学习效果推断),从而得出三项关键发现。第一,显式偏好与观察偏好不一致;学生认为有帮助的记忆法未必真正有效。第二,贝叶斯模型可将来自多种偏好类型的互补数据合成为单一的有效性信号。SMART 通过直接偏好优化 (Direct Preference Optimization) 在该信号上进行调优,解决了通常成对比较方法中的平局和缺失标签问题,增强了 LLM 输出质量。第三,记忆法专家评估 SMART 与 GPT-4 相当,但部署成本更低,表明捕获多样化学生反馈以对齐 LLM 在教育领域具有实用价值。
引用
@article{arxiv.2406.15352,
title = {A SMART Mnemonic Sounds like "Glue Tonic": Mixing LLMs with Student Feedback to Make Mnemonic Learning Stick},
author = {Nishant Balepur and Matthew Shu and Alexander Hoyle and Alison Robey and Shi Feng and Seraphina Goldfarb-Tarrant and Jordan Boyd-Graber},
journal= {arXiv preprint arXiv:2406.15352},
year = {2024}
}
备注
EMNLP 2024