CounterNet：预测感知反事实解释的端到端训练
机器学习
2023-06-23 v3
摘要
本文提出 CounterNet，一种新颖的端到端学习框架，将机器学习（ML）模型训练与相应反事实（CF）解释的生成整合到单一的端到端流水线中。反事实解释提供一种对比性案例，即试图找到对某个实例特征值的最小修改，使 ML 模型对该实例的预测变为预定义输出。现有的 CF 解释生成技术存在两个主要局限：（i）它们均为为专有 ML 模型设计的后验方法——因此其 CF 解释生成过程不受 ML 模型训练的指导，导致模型预测与解释之间的错位；（ii）它们大多依赖求解独立的耗时优化问题来为每个输入数据点寻找 CF 解释（这对运行时间产生负面影响）。本文通过提出 CounterNet 这一端到端学习框架，将预测模型训练与反事实（CF）解释生成整合到单一流水线中，从而新颖地偏离了生成 CF 解释的主流后验范式。与后验方法不同，CounterNet 仅需与预测模型一同对 CF 解释生成进行一次优化。我们采用块坐标下降过程来有效训练 CounterNet 的网络。我们在多个真实世界数据集上的大量实验表明，CounterNet 生成高质量预测，对任意新输入实例始终实现 100% 的 CF 有效性与低邻近度分数（从而实现了成本-无效性之间的良好平衡），并且运行速度比现有最先进基线快 3 倍。
引用
@article{arxiv.2109.07557,
title = {CounterNet: End-to-End Training of Prediction Aware Counterfactual Explanations},
author = {Hangzhi Guo and Thanh Hong Nguyen and Amulya Yadav},
journal= {arXiv preprint arXiv:2109.07557},
year = {2023}
}