基于有意义扰动的黑箱可解释解释
计算机视觉与模式识别
2021-12-06 v4 人工智能
机器学习
机器学习
摘要
随着机器学习算法日益应用于高影响但高风险的任务（如医学诊断或自动驾驶），研究者能够解释此类算法如何得出其预测至关重要。近年来，已开发若干图像显著性方法以总结高度复杂神经网络在图像中“看”何处以获取其预测的证据。然而，这些技术受其启发式本质和架构约束的限制。本文做出两点主要贡献：第一，我们提出一个通用框架，用于为任意黑箱算法学习不同类型的解释。第二，我们将该框架专门化以寻找图像中对分类器决策最负责的部分。与先前工作不同，我们的方法是模型无关且可测试的，因为它基于显式且可解释的图像扰动。
引用
@article{arxiv.1704.03296,
title = {Interpretable Explanations of Black Boxes by Meaningful Perturbation},
author = {Ruth Fong and Andrea Vedaldi},
journal= {arXiv preprint arXiv:1704.03296},
year = {2021}
}
备注
Final camera-ready paper published at ICCV 2017 (Supplementary materials: http://openaccess.thecvf.com/content_ICCV_2017/supplemental/Fong_Interpretable_Explanations_of_ICCV_2017_supplemental.pdf)