我该信任哪个 LIME？概念、挑战与解决方案
机器学习
2025-04-01 v1 人工智能
摘要
随着神经网络在关键系统中占据主导地位，可解释人工智能（Explainable Artificial Intelligence, XAI）在培养信任和检测不透明模型的潜在不当行为方面发挥着关键作用。LIME（Local Interpretable Model-agnostic Explanations）是最著名的模型无关方法之一，通过近似黑盒模型在特定实例周围的行为来生成解释。尽管 LIME 广受欢迎，但它在保真度、稳定性以及对特定领域问题的适用性方面面临挑战。为解决这些问题，人们提出了许多改编和增强方案，但日益增多的发展可能令人不知所措，使探索 LIME 相关研究的努力变得复杂。据我们所知，这是首次全面探索和收集 LIME 基础概念和已知局限性的综述。我们对其各种增强方案进行了分类和比较，提供了基于中间步骤和关键问题的结构化分类法。我们的分析提供了 LIME 进展的全面概述，指导未来研究并帮助从业者识别合适的方法。此外，我们提供了一个持续更新的交互式网站（https://patrick-knab.github.io/which-lime-to-trust/），提供该综述的简明且易于访问的概述。
引用
@article{arxiv.2503.24365,
title = {Which LIME should I trust? Concepts, Challenges, and Solutions},
author = {Patrick Knab and Sascha Marton and Udo Schlegel and Christian Bartelt},
journal= {arXiv preprint arXiv:2503.24365},
year = {2025}
}
备注
Accepted at the 3rd World Conference on eXplainable Artificial Intelligence (XAI 2025)