面向概率黑盒异常归因的生成式扰动分析
机器学习
2023-08-10 v1 人工智能
摘要
我们研究黑盒回归设定下的概率异常归因任务,其目标是在给定观测异常时,计算每个输入变量归因得分的概率分布。假定训练数据集不可用。该任务不同于标准的可解释人工智能(XAI)场景,因为我们希望解释的是相对于黑盒预测的异常偏离,而非黑盒模型本身。我们首先表明,诸如Shapley值之类的主流模型无关解释方法由于具有“偏离不可知性质”而不适用于该任务。随后我们提出一种新颖的概率异常归因框架,该框架不仅能以预测均值计算归因得分,还能量化这些得分的不确定性。这是通过考虑一个生成式扰动过程来实现的,该扰动反事实地将观测到的异常观测值恢复至正常状态。我们引入一种变分贝叶斯算法以推导各变量归因得分的分布。据我们所知,这是首个不受偏离不可知性质影响的概率异常归因框架。
引用
@article{arxiv.2308.04708,
title = {Generative Perturbation Analysis for Probabilistic Black-Box Anomaly Attribution},
author = {Tsuyoshi Idé and Naoki Abe},
journal= {arXiv preprint arXiv:2308.04708},
year = {2023}
}