STEEX：利用语义引导反事实解释
计算机视觉与模式识别
2022-07-20 v3
摘要
随着深度学习模型越来越多地用于安全关键应用，可解释性和可信赖性成为主要问题。对于简单图像，例如低分辨率人脸肖像，最近有人提出合成视觉反事实解释作为揭示训练分类模型决策机制的方法。在这项工作中，我们解决了为高质量图像和复杂场景生成反事实解释的问题。利用最近的语义到图像模型，我们提出了一种新的生成式反事实解释框架，该框架产生合理且稀疏的修改，并保留整体场景结构。此外，我们引入了“区域定向反事实解释”的概念及相应框架，用户可通过指定查询图像中解释必须涉及的一组语义区域来引导反事实的生成。在具有挑战性的数据集上进行了大量实验，包括高质量肖像（CelebAMask-HQ）和驾驶场景（BDD100k）。代码可在 https://github.com/valeoai/STEEX 获取
引用
@article{arxiv.2111.09094,
title = {STEEX: Steering Counterfactual Explanations with Semantics},
author = {Paul Jacob and Éloi Zablocki and Hédi Ben-Younes and Mickaël Chen and Patrick Pérez and Matthieu Cord},
journal= {arXiv preprint arXiv:2111.09094},
year = {2022}
}
备注
ECCV 2022 --- 14 pages + supplementary