街上的Rashomon效应：场景理解中的解释模糊性
机器学习
2025-09-04 v1 人工智能
摘要
可解释人工智能（XAI）对于验证和信任自动驾驶等安全关键应用中的模型至关重要。然而，XAI的可靠性受到Rashomon效应的挑战，即多个同等准确的模型可以为同一预测提供不同的解释。本文首次对真实驾驶场景中动作预测任务的该效应进行了实证量化。使用定性可解释图（QXGs）作为符号场景表示，我们训练了两种不同模型类的Rashomon集合：可解释的基于对的梯度提升模型和复杂的基于图的图神经网络（GNNs）。利用特征归因方法，我们测量了类内和类间解释的一致性。我们的结果揭示了显著的解释分歧。我们的发现表明，解释模糊性是该问题的固有属性，而不仅仅是建模的人为产物。
引用
@article{arxiv.2509.03169,
title = {Rashomon in the Streets: Explanation Ambiguity in Scene Understanding},
author = {Helge Spieker and Jørn Eirik Betten and Arnaud Gotlieb and Nadjib Lazaar and Nassim Belmecheri},
journal= {arXiv preprint arXiv:2509.03169},
year = {2025}
}
备注
AAAI 2025 Fall Symposium: AI Trustworthiness and Risk Assessment for Challenged Contexts (ATRACC)