当稳定性遇上充分性：不令人不知所措的信息化解释

近期评估可解释人工智能（XAI）各类标准的研究表明，保真度、稳定性与可理解性是多样化使用场景中AI用户考量的最重要指标之一。我们考虑这些标准应用于基于特征的归因方法，其为XAI文献中最普遍的方法之一。超越标准相关性，已有方法提出突出足以证明输入分类的最小充分部分（即相关正例）。尽管最小充分性是与可理解性类似的有吸引力的性质，所得解释常过于稀疏以致人类难以理解并评估模型的局部行为。为克服这些局限，我们纳入稳定性与保真度标准，提出一种称为路径充分解释方法（PSEM）的新方法，其为给定输入输出尺寸（或值）严格递减的一系列稳定且充分的解释——从原始输入到最小充分解释——可视为以稳定方式追踪模型的局部边界，从而针对特定输入提供关于模型局部行为的更好直觉。我们通过实验在定性及定量上验证这些主张，表明PSEM在三种模态（图像、表格与文本）中以及相较于其他路径解释的优势。用户研究展示了该方法在传达局部行为上的优势，其中（多数）用户能正确判定模型所作预测。