从事实到伪证：为智能环境设计和评估反事实解释

可解释性越来越被视为基于规则的智能环境的关键特性。虽然反事实解释——描述要实现预期结果可以以何种方式不同做出选择——是可解释人工智能(XAI)中强大工具，但在这些基于规则的领域中尚不存在确定的方法来生成它们。本文提出了针对该领域的反事实解释的首个形式化和实现。它作为一个插件，扩展了现有智能环境的解释引擎。我们进行了用户研究( N=17)来评估我们生成的反事实解释与传统因果解释的效果。结果显示，用户偏好高度取决于情境：在语言简单性和时间受限的情况下，偏好因果解释；而在需要解决问题时，偏好反事实解释因其可操作性。我们的工作为智能环境的新型解释提供了实用框架，并提供了实证证据，以指导何时选择每种解释类型最为有效。