反事实解释的不确定性估计与分布外检测：陷阱与解决方案
机器学习
2021-07-22 v1 人工智能
摘要
尽管近期大量技术被提出用于为不透明黑盒系统的预测生成反事实解释，但明显较少有关注去探究这些生成解释的不确定性。这在高风险场景中成为关键问题，其中不确定且具有误导性的解释可能带来严重后果（例如医学诊断与治疗规划）。此外，往往难以判断生成的解释是否良好立足于训练数据并对分布偏移敏感。本文提出了若干可采用的实用解决方案，通过与其他可解释性研究（如信任分数）和不确定性估计研究（如Monte Carlo Dropout）建立新颖联系来解决这些问题。两个实验展示了我们所提解决方案的效用。
引用
@article{arxiv.2107.09734,
title = {Uncertainty Estimation and Out-of-Distribution Detection for Counterfactual Explanations: Pitfalls and Solutions},
author = {Eoin Delaney and Derek Greene and Mark T. Keane},
journal= {arXiv preprint arXiv:2107.09734},
year = {2021}
}