从深度神经网络中定义与提取可泛化的交互基元
机器学习
2024-09-16 v2 人工智能
计算机视觉与模式识别
摘要
将深度神经网络 (DNN) 编码的知识忠实地概括为少量符号化基元模式而不丢失太多信息，是可解释人工智能 (explainable AI) 的核心挑战。为此，Ren 等人 (2024) 推导出一系列定理，证明 DNN 的推理分数可以解释为输入变量间的一小组交互。然而，泛化能力的缺乏使得我们仍难以将此类交互视为 DNN 编码的忠实基元模式。因此，针对为同一任务训练的不同 DNN，我们开发了一种新方法来提取这些 DNN 共享的交互。实验表明，提取出的交互能更好地反映不同 DNN 共享的共性知识。
引用
@article{arxiv.2401.16318,
title = {Defining and Extracting generalizable interaction primitives from DNNs},
author = {Lu Chen and Siyu Lou and Benhao Huang and Quanshi Zhang},
journal= {arXiv preprint arXiv:2401.16318},
year = {2024}
}