可解释知识追踪综述
计算与语言
2024-03-13 v1
摘要
随着高质量教育数据的长期积累，人工智能在知识追踪方面表现出色。然而，由于某些算法缺乏可解释性和透明度，这种方法会导致利益相关者信任度降低，并对智能决策的接受度下降。因此，算法需要实现高精度，用户需要理解内部运作机制并获得可靠的决策解释。本文深入分析了 KT 算法的可解释性。首先，介绍了可解释人工智能和知识追踪的概念及常用方法。接下来，将可解释知识追踪模型分为两类：透明模型和黑盒模型。然后，从前置可解释方法、后置可解释方法和其他维度三个阶段回顾了所使用的可解释方法。值得注意的是，目前缺乏针对可解释知识追踪的评估方法。因此，通过对比和删除实验，利用三种 XAI 方法解释了深度知识追踪模型在 ASSISTment2009 上的预测结果。此外，本文从教育利益相关者的角度对评估方法提供了一些见解。本文对可解释知识追踪的研究进行了详细全面的综述，旨在为对知识追踪可解释性感兴趣的研究者提供一些基础和启发。
引用
@article{arxiv.2403.07279,
title = {A Survey of Explainable Knowledge Tracing},
author = {Yanhong Bai and Jiabao Zhao and Tingjiang Wei and Qing Cai and Liang He},
journal= {arXiv preprint arXiv:2403.07279},
year = {2024}
}