TDLS：一种用于生成反事实视觉解释的自顶向下层搜索算法
计算机视觉与模式识别
2021-08-27 v2 人工智能
机器学习
摘要
AI 的解释，以及算法决策的公平性和决策模型的透明度，正变得越来越重要。在开启黑盒模型时，设计有效且人类友好的技术至关重要。反事实符合人类的思维方式并提供人类友好的解释，其相应的解释算法是指对给定数据点进行策略性更改，使其模型输出被“反事实化”，即预测被反转。在本文中，我们将反事实解释应用于细粒度图像分类问题。我们展示了一种自适应方法，该方法通过使用自顶向下层搜索算法（TDLS）展示合成的反事实特征图来给出反事实解释。我们证明了，在 Caltech-UCSD Birds 200 数据集上使用 VGG-16 模型，我们的 TDLS 算法能够以高效的方式提供更灵活的反事实视觉解释。最后，我们讨论了反事实视觉解释的几个适用场景。
引用
@article{arxiv.2108.04238,
title = {TDLS: A Top-Down Layer Searching Algorithm for Generating Counterfactual Visual Explanation},
author = {Cong Wang and Haocheng Han and Caleb Chen Cao},
journal= {arXiv preprint arXiv:2108.04238},
year = {2021}
}
备注
Additional experiments are required