时间敏感场景中的可解释人工智能：预取离线解释模型

随着预测性机器学习模型被越来越广泛地采用和应用，其角色已从单纯的预测演变为积极地塑造结果。这一演变凸显了可信人工智能的重要性，强调有必要将关注范围从单纯的准确性扩展到全面理解这些模型在其应用特定上下文中的行为。为了进一步推进可解释性，我们提出了Poem（Prefetched Offline Explanation Model，预取离线解释模型），一种面向图像数据的模型无关局部可解释算法。该算法生成范例、反例和显著性图，以提供适用于时间敏感场景的快速且有效的解释。利用已有的局部算法，Poem从数据中推断事实性规则和反事实规则，以增强稳定性为设计原则创建说明性示例和相反场景。一种新颖的机制随后将传入的测试点与解释库进行匹配，生成多样化的范例、信息丰富的显著性图和可信的反例。实验结果表明，Poem在速度上优于其前身Abele，能够生成更精细且更多样的范例，同时提供更深刻的显著性图和更有价值的反例。