从困惑到清晰：ProtoScore——一个评估基于原型的可解释 AI 的框架
机器学习
2025-11-13 v1
摘要
神经网络的复杂性与不透明性带来了重大挑战，尤其是在医疗、金融和法律等高风险领域，理解其决策过程至关重要。为解决这些问题，可解释人工智能领域开发了各种旨在阐明 AI 决策的方法，从而促进适当的信任并验证结果的公平性。在这些方法中，基于原型的解释提供了一种有前景的途径，它使用代表性样本来阐释模型行为。然而，在客观比较基于原型的可解释 AI 方法的标准化基准方面存在关键空白，特别是在时间序列数据的背景下。缺乏可靠的基准会导致主观评估，阻碍该领域的进展。我们旨在建立一个稳健的框架 ProtoScore，用于评估跨不同数据类型（重点关注时间序列数据）的基于原型的可解释 AI 方法，以促进公平且全面的评估。通过整合 Nauta 等人的 Co-12 属性，该框架能够有效地将各种原型方法相互比较，并与其他可解释 AI 方法进行比较，最终帮助从业者选择合适的解释方法，同时将与用户研究相关的成本降至最低。所有代码已在 https://github.com/HelenaM23/ProtoScore 公开。
引用
@article{arxiv.2511.08361,
title = {From Confusion to Clarity: ProtoScore -- A Framework for Evaluating Prototype-Based XAI},
author = {Helena Monke and Benjamin Sae-Chew and Benjamin Fresz and Marco F. Huber},
journal= {arXiv preprint arXiv:2511.08361},
year = {2025}
}