XpertAI：揭示子流形的回归模型策略
机器学习
2025-07-21 v4
摘要
近年来，可解释 AI (XAI) 方法促进了对 ML 模型的深刻验证和知识提取。尽管在分类方面得到了广泛研究，但很少有 XAI 解决方案针对回归模型特有的挑战。在回归中，需要精确地表述解释以解决特定的用户查询（例如，区分“为什么输出大于 0？”和“为什么输出大于 50？”）。此外，它们还应反映模型在相关数据子流形上的行为。在本文中，我们引入了 XpertAI，这是一个将预测策略分解为多个特定范围子策略的框架，并允许将关于模型的精确查询（即“被解释项”）表述为这些子策略的线性组合。XpertAI 被通用化地表述，可与基于遮挡、梯度积分或反向传播的流行 XAI 归因技术协同工作。定性和定量结果证明了我们方法的优势。
引用
@article{arxiv.2403.07486,
title = {XpertAI: uncovering regression model strategies for sub-manifolds},
author = {Simon Letzgus and Klaus-Robert Müller and Grégoire Montavon},
journal= {arXiv preprint arXiv:2403.07486},
year = {2025}
}
备注
Best paper award - World Conference on eXplainable Artificial Intelligence, 09-11 July, 2025 - Istanbul, Turkey