用符号知识增强深度神经网络：迈向教育领域可信且可解释的人工智能
人工智能
2025-04-01 v1
摘要
人工神经网络（ANNs）已被证明是教育应用中最重要的人工智能（AI）技术之一，可提供自适应教育服务。然而，其教育潜力在实践中受限于三大挑战：i）难以在其开发中融入符号教育知识（如因果关系及从业者知识）；ii）学习并反映偏差；iii）缺乏可解释性。鉴于教育的高风险性质，将教育知识整合进ANNs对于开发遵循基本教育约束且提供预测可解释性的AI应用至关重要。本研究认为神经符号（neural-symbolic）AI家族有潜力应对上述挑战。为此，它适配了一个神经符号AI框架，并相应开发了一种称为NSAI的方法，将教育知识注入深度神经网络并从中提取，用于建模学习者的计算思维。我们的发现表明，相较于仅在训练数据上训练的深度神经网络，以及由SMOTE和自编码器方法增强的训练数据，NSAI方法具有更好的泛化性。更重要的是，与其他模型不同，NSAI方法优先采用捕获输入特征与输出标签间因果关系的鲁棒表示，确保学习安全性以避免虚假关联并控制训练数据中的偏差。此外，NSAI方法支持从所学网络中提取规则，促进对预测路径的解释与推理，并精炼初始教育知识。这些发现意味着神经符号AI能够克服ANNs在教育中的局限，实现可信且可解释的应用。
引用
@article{arxiv.2311.00393,
title = {Augmenting deep neural networks with symbolic knowledge: Towards trustworthy and interpretable AI for education},
author = {Danial Hooshyar and Roger Azevedo and Yeongwook Yang},
journal= {arXiv preprint arXiv:2311.00393},
year = {2025}
}