距离受限解释：理论基础与高效实现
机器学习
2024-12-25 v2 人工智能
计算机视觉与模式识别
分布式、并行与集群计算
摘要
近年来，机器学习 (ML) 的应用呈爆炸式增长。在许多情况下，ML 模型高度复杂，其运行超出了人类决策者的理解范围。然而，ML 模型的某些应用涉及高风险和安全关键领域。可解释人工智能 (XAI) 旨在帮助人类决策者理解此类复杂 ML 模型的运行机制，从而激发对其运行的信任。遗憾的是，过去的大多数 XAI 工作基于非形式化方法，无法提供严格性保证。毫不意外的是，现有全面的实验和理论证据证实，非形式化的 XAI 方法可能会向人类决策者提供错误信息。基于逻辑的 XAI 代表了一种严格的可解释性方法；它是基于模型的，并为计算出的解释提供了最强的严格性保证。然而，基于逻辑的 XAI 一个众所周知的缺点是逻辑推理的复杂性，特别是对于高度复杂的 ML 模型。最近的工作提出了距离受限解释，即在距离给定输入足够小的情况下是严格的解释。距离受限可解释性与对抗鲁棒性密切相关，并且已被证明对于中等复杂度的 ML 模型具有可扩展性，但输入数量仍然是一个关键的限制因素。本文研究了新的算法，以提高基于逻辑的解释器在计算和枚举具有大量输入的 ML 模型解释时的性能。
引用
@article{arxiv.2405.08297,
title = {Distance-Restricted Explanations: Theoretical Underpinnings & Efficient Implementation},
author = {Yacine Izza and Xuanxiang Huang and Antonio Morgado and Jordi Planes and Alexey Ignatiev and Joao Marques-Silva},
journal= {arXiv preprint arXiv:2405.08297},
year = {2024}
}