技术札记:定义与量化 AND-OR 交互以实现对 DNN 的忠实且简洁解释
机器学习
2024-08-02 v2 人工智能
计算机视觉与模式识别
摘要
在本技术札记中,我们旨在通过量化输入变量间编码的交互来解释深度神经网络(DNN),这反映了 DNN 的推理逻辑。具体而言,我们首先重新思考交互的定义,然后正式定义基于交互的解释的忠实性与简洁性。为此,我们提出两类交互,即 AND 交互与 OR 交互。对于忠实性,我们证明了 AND (OR) 交互在量化输入变量间 AND (OR) 关系效应上的唯一性。此外,基于 AND-OR 交互,我们设计了在保持忠实性的同时提升解释简洁性的技术。以此方式,DNN 的推理逻辑可由一组符号概念忠实且简洁地解释。
引用
@article{arxiv.2304.13312,
title = {Technical Note: Defining and Quantifying AND-OR Interactions for Faithful and Concise Explanation of DNNs},
author = {Mingjie Li and Quanshi Zhang},
journal= {arXiv preprint arXiv:2304.13312},
year = {2024}
}
备注
arXiv admin note: text overlap with arXiv:2111.06206