用现实检验解释并改进深度学习模型
机器学习
2021-08-20 v2 机器学习
摘要
近期的深度学习模型通过学习的多变量复杂函数取得了令人印象深刻的预测性能，却往往以可解释性为代价。本章涵盖近期旨在通过为单次预测中的特征及特征组分配重要性来解释模型的工作。重要的是，所提出的归因除孤立特征外，还将重要性分配给特征间的交互作用。这些归因被证明能在包括生物成像、宇宙学图像与自然语言处理在内的真实领域提供洞察。我们随后展示如何利用这些归因直接改进神经网络的泛化能力，或将其提炼为简单模型。全章中，我们强调使用现实检验来审视所提出的解释技术。
引用
@article{arxiv.2108.06847,
title = {Interpreting and improving deep-learning models with reality checks},
author = {Chandan Singh and Wooseok Ha and Bin Yu},
journal= {arXiv preprint arXiv:2108.06847},
year = {2021}
}