迈向完全可解释的深层神经网络：我们实现了吗？
机器学习
2021-06-25 v1 计算机视觉与模式识别
摘要
尽管性能卓越，深层神经网络（DNNs）仍表现为黑盒，阻碍了用户对人工智能（AI）系统的信任。打开黑盒 DNN 的研究可大致分为事后方法和内在可解释 DNNs。虽然已有许多关于事后解释方法的综述，但针对内在可解释 DNNs 的努力甚少。本文综述了现有开发具有内在可解释性的 DNNs 的方法，重点关注卷积神经网络（CNNs）。旨在理解当前朝向能够满足不同解释需求的完全可解释 DNNs 的进展。最后，我们指出了当前工作中的空白并建议了潜在的研究方向。
引用
@article{arxiv.2106.13164,
title = {Towards Fully Interpretable Deep Neural Networks: Are We There Yet?},
author = {Sandareka Wickramanayake and Wynne Hsu and Mong Li Lee},
journal= {arXiv preprint arXiv:2106.13164},
year = {2021}
}
备注
Presented at the ICML 2021 Workshop on Theoretic Foundation, Criticism, and Application Trend of Explainable AI