解释图像分类器
人工智能
2024-01-26 v1
摘要
我们专注于解释图像分类器，以Mothilal等人[2021]（MMTS）的工作为出发点。我们观察到，尽管MMTS声称使用Halpern[2016]提出的解释定义，但他们并未完全做到。粗略地说，Halpern的定义包含一个必要性条款和一个充分性条款。MMTS用一个我们证明蕴含必要性的要求替换了必要性条款。Halpern的定义还允许智能体限制所考虑的选项集。虽然这些差异看似微小，但正如我们所示，它们可能对解释产生重要影响。我们还表明，几乎无需改变，Halpern的定义可以处理其他方法难以处理的两个问题：缺失解释（例如，当肿瘤图像分类器输出“无肿瘤”时）和罕见事件解释（例如肿瘤）。
引用
@article{arxiv.2401.13752,
title = {Explaining Image Classifiers},
author = {Hana Chockler and Joseph Y. Halpern},
journal= {arXiv preprint arXiv:2401.13752},
year = {2024}
}