利用潜特征生成局部解释
机器学习
2021-06-01 v3 机器学习
摘要
随着深度神经网络在医学影像、视频监控和自动驾驶等众多领域的应用激增，解释这些模型决策的需求已成为热门研究课题，涵盖全局与局部层面。在局部层面，多数解释方法聚焦于识别特征的相关性，限制了可能的解释类型。本文中，我们探索一个新方向：利用潜特征生成对比性解释；预测不仅通过突出自身足以证明分类的方面来解释，还通过若添加将改变分类的新方面来解释。本文的关键贡献在于我们以形式化且人类可解释的方式向丰富数据添加特征，从而产生有意义的结果。我们对“添加”的新定义使用潜特征超越以往解释的局限，并解决了 Dhurandhar 等人（2018）提出的开放问题，该工作创建了局部对比性解释但局限于灰度图像等简单数据集。我们在三个不同的图像数据集（皮肤病变、人脸和时尚服饰）上展示了该方法在创建直观解释且量化上优于其他方法方面的优势。一项有 200 名参与者进行的用户研究进一步例证了对比性信息的益处，其可视为对其它最先进可解释性方法的补充。
引用
@article{arxiv.1905.12698,
title = {Leveraging Latent Features for Local Explanations},
author = {Ronny Luss and Pin-Yu Chen and Amit Dhurandhar and Prasanna Sattigeri and Yunfeng Zhang and Karthikeyan Shanmugam and Chun-Chen Tu},
journal= {arXiv preprint arXiv:1905.12698},
year = {2021}
}
备注
Accepted to KDD 2021