通过可解释性揭开深度神经网络的神秘面纱：一项综述
机器学习
2021-01-07 v2 人工智能
摘要
现代深度学习算法往往通过优化一个目标度量（例如在训练数据集上最小化交叉熵损失）来进行学习。问题在于，单一度量是对真实世界任务的不完整描述。单一度量无法解释算法为何学习。当发生错误时，可解释性的缺失导致难以理解和修复该错误。近来，已有一些工作致力于解决可解释性问题，以揭示神经网络的行为与思考过程。这些工作对于识别潜在偏差、确保算法公平性以及预期性能至关重要。
引用
@article{arxiv.2012.07119,
title = {Demystifying Deep Neural Networks Through Interpretation: A Survey},
author = {Giang Dao and Minwoo Lee},
journal= {arXiv preprint arXiv:2012.07119},
year = {2021}
}