人类与神经网络之间的双向知识交互界面
人机交互
2024-01-12 v1 人工智能
机器学习
摘要
尽管神经网络（NN）已广泛应用于各个领域且通常优于人类，但它们仍在一定程度上缺乏可解释性，人类无法直观理解NN的决策逻辑。这也阻碍了人类与NN之间的知识交互，使得当NN决策出错时人类无法介入给予直接指导。虽然近期可解释人工智能的研究从不同角度实现了NN的可解释性，但尚未提供人类与NN之间知识交换的有效方法。为解决此问题，我们构建了一个双向交互界面，使用视觉概念及其关系的结构化表示作为人类与NN之间知识交换的“语言”。具体来说，NN基于类别特定结构概念图（C-SCG）向人类提供直观的推理解释。另一方面，人类可以通过其先验知识和推理能力修改C-SCG中存在的偏差，从而通过该界面为NN提供直接的知识指导。通过实验验证，基于该交互界面，NN能够向人类提供易于理解的推理过程解释。此外，人类参与和先验知识可以直接有效地促进NN性能的提升。
引用
@article{arxiv.2401.05461,
title = {The two-way knowledge interaction interface between humans and neural networks},
author = {Zhanliang He and Nuoye Xiong and Hongsheng Li and Peiyi Shen and Guangming Zhu and Liang Zhang},
journal= {arXiv preprint arXiv:2401.05461},
year = {2024}
}