双曲空间中用于深度判别模型的分层符号推理
计算机视觉与模式识别
2022-07-06 v1 人工智能
摘要
针对\emph{黑盒}模型的解释有助于我们理解模型决策，并提供关于模型偏倚与不一致性的信息。当前大多数可解释性技术仅提供单一层次的解释，通常表现为输入空间中的特征重要性分数或特征注意力图。我们的重点是在\emph{多个抽象层次}上解释深度判别模型，从细粒度到完全抽象的解释。我们利用\emph{双曲几何}的自然性质更高效地建模符号特征层次结构，并生成\emph{分层符号规则}作为我们解释的一部分。具体而言，对于任意给定的深度判别模型，我们通过向量量化对连续潜空间进行离散化以形成符号，随后通过一个\emph{双曲推理块}来归纳一个\emph{抽象树}，从而提炼其底层知识。我们遍历该树以提取符号规则形式及其对应视觉语义的解释。我们在 MNIST 与 AFHQ 高分辨率动物面孔数据集上展示了我们方法的有效性。我们的框架可在 \url{https://github.com/koriavinash1/SymbolicInterpretability} 获取。
引用
@article{arxiv.2207.01916,
title = {Hierarchical Symbolic Reasoning in Hyperbolic Space for Deep Discriminative Models},
author = {Ainkaran Santhirasekaram and Avinash Kori and Andrea Rockall and Mathias Winkler and Francesca Toni and Ben Glocker},
journal= {arXiv preprint arXiv:2207.01916},
year = {2022}
}