QUCE：生成式反事实解释中基于路径不确定性的最小化与量化
机器学习
2025-05-27 v5 人工智能
摘要
深度神经网络（DNNs）是机器学习（ML）领域中最突出的方法之一。随着最近计算能力的提升，DNNs 的有效性大幅增长，使其能够扩展至显著的复杂性以解决大数据中的预测挑战。然而，随着 DNN 模型复杂性的增加，可解释性随之降低。为应对这一挑战，Adversarial Gradient Integration (AGI) 等可解释模型利用 DNNs 提供的基于路径的梯度来阐明其决策。然而，当梯度在分布外路径遍历过程中表现出不规则性时，基于路径的解释器的性能可能会受损。在此背景下，我们引入了量化不确定性反事实解释（QUCE），这是一种旨在通过最小化路径不确定性来缓解分布外遍历的方法。QUCE 不仅在呈现解释时量化不确定性，还能生成更确定的反事实样本。我们通过将 QUCE 方法与基于路径的解释和生成式反事实示例的竞争性方法进行比较，展示了其性能。
引用
@article{arxiv.2402.17516,
title = {QUCE: The Minimisation and Quantification of Path-Based Uncertainty for Generative Counterfactual Explanations},
author = {Jamie Duell and Monika Seisenberger and Hsuan Fu and Xiuyi Fan},
journal= {arXiv preprint arXiv:2402.17516},
year = {2025}
}
备注
Final version published in ICDM 2024, International Conference on Data Mining - Fixed minor typographical errors in the accepted preprint