几何删除-再训练 (GOAR)：坐标无关的可解释人工智能评估方法
机器学习
2024-07-18 v1 计算机视觉与模式识别
摘要
识别对输出结果具有关键影响的相关输入特征对于可解释人工智能 (XAI) 的发展至关重要。删除-再训练 (ROAR) 是一种广泛接受的用于评估单个像素重要性的方法，通过测量其移除后及随后的重新训练所导致的准确度变化。然而，我们发现像素扰动策略存在显著局限性。从几何视角出发，我们发现这些指标无法在特征归因方法之间进行区分，从而损害了评估的可靠性。为解决这一挑战，我们引入了一种新的特征扰动方法，称为几何删除-再训练 (GOAR)。通过使用合成数据集和真实数据集进行一系列实验，我们证实了 GOAR 超越了像素中心指标的局限性。
引用
@article{arxiv.2407.12401,
title = {Geometric Remove-and-Retrain (GOAR): Coordinate-Invariant eXplainable AI Assessment},
author = {Yong-Hyun Park and Junghoon Seo and Bomseok Park and Seongsu Lee and Junghyo Jo},
journal= {arXiv preprint arXiv:2407.12401},
year = {2024}
}
备注
Accepted in XAI in Action Workshop @ NeurIPS2023