可解释人工智能的评估究竟告诉了我们什么？关于 XAI 构建模块的组合与上下文验证的案例

尽管取得了重大进展，可解释人工智能的评估仍然困难且充满挑战。在本文中，我们提出了一个细粒度的验证框架，该框架不过度依赖这些社会技术系统的任何一个方面，并承认其固有的模块化结构：技术构建模块、面向用户的解释产物以及社会交流协议。虽然我们认同用户研究在特定部署背景下从解释接受者角度评估解释呈现与交付策略的质量和有效性方面具有不可估量的价值，但底层的解释生成机制需要一种独立的、以算法为主的验证策略，该策略需考虑其（数值）输出的技术与以人为中心的期望。这样一个全面的社会技术基于效用的评估框架，将允许我们系统地推理可解释人工智能系统所组成的不同构建模块的属性与下游影响——涵盖其工程与社会方面的多样化范围——以应对预期的使用案例。