ViCE：机器学习模型的可视化反事实解释
人机交互
2020-03-06 v1 人工智能
机器学习
摘要
机器学习模型预测准确性的持续提升使其得以广泛实际应用。然而，许多基于看似准确模型做出的决策仍需要领域专家验证。此外，模型的最终用户也希望理解特定决策背后的原因。因此，对可解释性的需求日益迫切。本文我们提出一种交互式可视分析工具ViCE，其生成反事实解释以语境化并评估模型决策。对每个样本进行评估，以识别翻转模型输出所需的最小改动集合。这些解释旨在为最终用户提供个性化的可操作洞见，用以理解并可能质疑或改进自动化决策。结果有效地展示于可视化界面中，其中反事实解释被高亮显示，并为用户提供探索数据与模型的交互方法。该工具的功能通过其在房屋净值信贷额度数据集上的应用得以展示。
引用
@article{arxiv.2003.02428,
title = {ViCE: Visual Counterfactual Explanations for Machine Learning Models},
author = {Oscar Gomez and Steffen Holter and Jun Yuan and Enrico Bertini},
journal= {arXiv preprint arXiv:2003.02428},
year = {2020}
}
备注
4 pages, 2 figures, ACM IUI 2020