面向特征归因解释器的边界感知不确定性估计

事后解释方法已成为在高风险应用中理解黑盒分类器的关键工具。然而，高性能分类器往往高度非线性，并可能在决策边界附近表现出复杂行为，导致局部解释脆弱或具有误导性。因此，迫切需要对这类解释方法的不确定性进行量化，以理解解释何时可信。在本工作中，我们提出高斯过程解释不确定性（GPEC）框架，其生成一种统一的不确定性估计，将决策边界感知不确定性与解释函数近似不确定性相结合。我们引入了一种新颖的基于测地线的核，其捕捉了目标黑盒决策边界的复杂性。我们从理论上证明所提出的核相似度随决策边界复杂性的增加而增大。所提框架具有高度灵活性；它可用于任何黑盒分类器和特征归因方法。在多个表格与图像数据集上的实证结果表明，与现有方法相比，GPEC 不确定性估计增进了对解释的理解。