Rashomon集合的实用归因指导
机器学习
2024-07-29 v1
摘要
不同的预测模型可能在同一任务中表现 equally well(称为Rashomon集合),但对数据提供冲突的解释和结论。Rashomon效应在可解释人工智能(XAI)的上下文中已被认识到是一个关键因素。尽管Rashomon集合已在各种上下文中被引入和研究,但其实际应用仍处于初级阶段,缺乏充分的指导和评估。我们从实用角度研究Rashomon集合的采样问题,并识别出两个基本公理-通用性和实现稀疏性-探索方法在实际使用中应满足的条件。这两个公理大多数已知归因方法都不满足,我们认为这是一个根本性的弱点。我们使用范数来指导基于次梯度的采样方法的设计。我们将这种方法应用于一个基本数学问题作为概念证明,并应用于一组实用数据集以演示其相对于现有采样方法的能力。
关键词
引用
@article{arxiv.2407.18482,
title = {Practical Attribution Guidance for Rashomon Sets},
author = {Sichao Li and Amanda S. Barnard and Quanling Deng},
journal= {arXiv preprint arXiv:2407.18482},
year = {2024}
}