面向个性化教育的可解释AI的以人为本方法

深度神经网络构成了人工智能研究的骨干，具有变革人类体验的潜力，其应用领域涵盖从自动驾驶到个人助理、从医疗保健到教育。然而，它们融入真实课堂的日常教学依然有限。教师为学生布置针对其特定弱点的个性化作业、提供即时反馈，或模拟学生对新考试题目的作答反应，这些目前尚不常见。尽管这些模型在预测性能上表现优异，但缺乏采用可归因于一个显著的弱点：模型决策缺乏可解释性，导致学生、家长和教师对其缺乏信任。本文旨在将人类需求置于可解释AI (XAI) 研究的前沿，并以个性化教学这一具体用例为基础。我们将贡献沿两个维度展开：XAI的技术进步及其相匹配的人类研究。我们研究了教育领域AI的可解释性，揭示了事后解释器之间的系统性分歧，并指出了对内在可解释模型架构的需求。我们提出了四项关于可解释性的新颖技术贡献：多模态模块化架构、可解释的混合专家模型、用于提升解释器稳定性的对抗训练，以及向学生呈现解释的理论驱动的 LLM-XAI 框架，并在包含教授、教师、学习科学家和大学生的多样化环境中对其进行了评估。通过将现有解释器的经验评估与新颖的架构设计及人类研究相结合，我们的工作为在SOTA性能与内建透明度和信任之间取得平衡的以人为本的AI系统奠定了基础。