面向可解释的知识追踪深度学习模型
机器学习
2020-05-14 v1 人工智能
摘要
作为建模学习者知识状态的重要技术，传统知识追踪(KT)模型已被广泛用于支撑智能辅导系统与 MOOC 平台。受深度学习技术快速进步的推动，深度神经网络近来被采用以设计新的 KT 模型来获得更好的预测性能。然而，这些模型缺乏可解释性严重阻碍了其实际应用，因为其输出与工作机制受制于不透明的决策过程与复杂内部结构。我们因而提出采用事后(post-hoc)方法来解决基于深度学习知识追踪(DLKT)模型的可解释性问题。具体而言，我们聚焦于应用逐层相关性传播(LRP)方法，通过从模型输出层向输入层反向传播相关性来解释基于 RNN 的 DLKT 模型。实验结果显示了使用 LRP 方法解释 DLKT 模型预测的可行性，并从问题层面与概念层面部分验证了计算所得的相关性分数。我们相信这可成为全面解释 DLKT 模型并推动其在教育领域实际应用坚实的一步。
引用
@article{arxiv.2005.06139,
title = {Towards Interpretable Deep Learning Models for Knowledge Tracing},
author = {Yu Lu and Deliang Wang and Qinggang Meng and Penghe Chen},
journal= {arXiv preprint arXiv:2005.06139},
year = {2020}
}