通过高效 Kolmogorov-Arnold 网络为神经认知诊断模型赋予可解释性
机器学习
2024-05-24 v1 计算机与社会
摘要
在智能教育领域,认知诊断在归因于学生在知识概念方面所揭示的熟练程度后,扮演着关键角色。尽管基于神经网络的神经认知诊断模型(CDMs)已显示出显著优于传统模型的性能,但神经认知诊断因采用多层感知器(MLP)而受到诋毁,即使在单调性假设下也如此。因此,本文提出通过高效 Kolmogorov-Arnold 网络(KANs)来赋予神经认知诊断模型可解释性,称为 KAN2CD,其中 KANs 以两种方式来增强可解释性。具体而言,在第一种方式中,直接使用 KANs 替换现有神经 CDMs 中使用的 MLP;而在第二种方式中,学生嵌入、练习嵌入和概念嵌入直接由多个 KANs 处理,然后将其输出进一步组合并在统一的 KAN 中学习以获得最终预测。为克服 KANs 训练缓慢的问题,我们修改了原始 KANs 的实现以加速训练。在四个真实世界数据集上的实验表明,提出的 KA2NCD 在传统 CDMs 方面表现更好,而提出的 KA2NCD 仍在现有的神经 CDMs 之上保持一点性能优势。更重要的是,KANs 所学习的结构使提出的 KA2NCD 能够保持与传统 CDMs 相当的可解释性,这优于现有的神经 CDMs。此外,提出的 KA2NCD 的训练成本与现有模型相当。
引用
@article{arxiv.2405.14399,
title = {Endowing Interpretability for Neural Cognitive Diagnosis by Efficient Kolmogorov-Arnold Networks},
author = {Shangshang Yang and Linrui Qin and Xiaoshan Yu},
journal= {arXiv preprint arXiv:2405.14399},
year = {2024}
}
备注
Leverage Kolmogorov-Arnold Networks (KANs) for cognitive diagnosis, enhancing the model interpretability. The diagnosis performance is also improved