GeCo：实时高质量反事实解释

机器学习正日益应用于直接影响人们生活的重大决策的制定中，这导致对系统解释其决策的需求增加。解释通常采取反事实的形式，即向最终用户传达她/他需要改变什么以改善结果。计算反事实解释具有挑战性，因为领域丰富的语义与实时响应的需求之间存在固有的张力。本文提出 GeCo，首个能够实时计算合理且可行的反事实解释的系统。其核心依赖于一种定制化的遗传算法，以偏好搜索改动最少的反事实解释。为实现实时性能，我们引入了两种新颖优化：候选反事实的 $\Delta$-表示，以及分类器的部分求值。我们将 GeCo 与文献中描述的另外五个系统进行实证比较，表明它是唯一能够同时实现高质量解释和实时响应的系统。