eXpLogic：解释 DiffLogic 网络中的逻辑类型与模式
机器学习
2025-03-14 v1 人工智能
摘要
将深度神经网络（DNN）约束为每个节点学习单独的逻辑类型（如 DiffLogic 网络架构所执行的），为模型特定的解释技术打开了大门，这些技术可以消除 DNN 固有的复杂性。受计算机工程中电路分析原理的启发，本文提出了一种算法（eXpLogic），用于生成解释激活某些函数的输入模式的显著性图。eXpLogic 解释：（1）展示负责决策的精确输入集，有助于解释假阴性和假阳性预测；（2）突出激活某些输出的通用输入模式；（3）有助于减小网络规模以提升类别特定推理效率。为了评估 eXpLogic 显著性图，我们引入了一种量化输入在改变模型类别预测之前变化程度的指标（SwitchDist），并使用该指标将 eXpLogic 与 Vanilla Gradients（VG）和 Integrated Gradient（IG）方法进行比较。总体而言，我们表明 eXpLogic 显著性图在预测哪些输入将改变类别得分方面表现更好。这些图有助于将网络规模和推理时间分别减少 87% 和 8%，同时对类别特定预测的影响有限（-3.8%）。本工作对机器学习的更广泛价值在于展示了某些 DNN 架构如何促进可解释性，这与医疗、国防和法律领域密切相关。
引用
@article{arxiv.2503.09910,
title = {eXpLogic: Explaining Logic Types and Patterns in DiffLogic Networks},
author = {Stephen Wormald and David Koblah and Matheus Kunzler Maldaner and Domenic Forte and Damon L. Woodard},
journal= {arXiv preprint arXiv:2503.09910},
year = {2025}
}
备注
Conference submission, 6 pages, 2 figures