告诉我原因：面向学生问题行为诊断的可解释 LLM 对话系统设计
计算与语言
2026-04-27 v1 人工智能
摘要
诊断学生问题行为需要教师综合多方面信息、识别行为类别并规划干预策略。虽然微调后的大型语言模型（LLM）可通过多轮对话支持这一过程，但它们很少解释推荐策略的原因，限制了透明度和教师信任。为此，我们提出基于微调 LLM 构建的可解释对话系统。该系统基于可解释人工智能（xAI）的分层归因方法，识别每个建议对应的对话证据，并基于该证据生成自然语言解释。在技术评估中，该方法在识别支持证据方面优于基线方法。在针对 22 名预备教师的初步用户研究中，接受解释建议的参与者对系统信任度更高。这些发现指向了提高教育对话系统中 LLM 可解释性的可行方向。
引用
@article{arxiv.2604.22237,
title = {Tell Me Why: Designing an Explainable LLM-based Dialogue System for Student Problem Behavior Diagnosis},
author = {Zhilin Fan and Deliang Wang and Penghe Chen and Yu Lu},
journal= {arXiv preprint arXiv:2604.22237},
year = {2026}
}
备注
This paper has been accepted in AIED2026