中文

结构化你的数据:迈向语义图反事实

计算机视觉与模式识别 2024-07-23 v2 人工智能

摘要

基于概念的反事实解释通过考虑替代场景来理解哪些高级语义特征促成了特定的模型预测。在本工作中,我们提出基于伴随输入数据的语义图的反事实解释,以实现更具描述性、准确性和人类一致性的解释。在现有技术概念性尝试的基础上,我们采用模型无关的基于编辑的方法,并引入利用GNN进行高效的图编辑距离(GED)计算。以视觉领域为重点,我们将图像表示为场景图并获取其GNN嵌入,从而绕过为所有输入对求解NP-hard图相似度问题这一反事实解释计算过程的核心部分。我们将该方法应用于具有不同难度和语义标注可用性的基准数据集和真实世界数据集。在多种分类器上进行测试,我们发现我们的反事实解释优于以往基于语义的SoTA解释模型,包括白盒和黑盒模型以及概念级和像素级方法。其优越性通过定量和定性方式得到证明,并经人类受试者验证,突出了在存在复杂关系时利用语义边的重要性。我们这种模型无关的基于图的方法具有广泛的适用性和易于扩展性,能够在不同语境下产生可操作的解释。

关键词

引用

@article{arxiv.2403.06514,
  title  = {Structure Your Data: Towards Semantic Graph Counterfactuals},
  author = {Angeliki Dimitriou and Maria Lymperaiou and Giorgos Filandrianos and Konstantinos Thomas and Giorgos Stamou},
  journal= {arXiv preprint arXiv:2403.06514},
  year   = {2024}
}