AdViCE：用于机器学习模型验证的聚合视觉反事实解释
人机交互
2021-09-14 v1 人工智能
机器学习
摘要
机器学习模型性能的快速提升已将其推至数据驱动决策的前沿。同时，这些模型在各应用领域中日益深入的集成进一步凸显了对更高可解释性和透明度的需求。为识别诸如偏差、过拟合和错误关联等问题，数据科学家需要能够解释这些模型决策机制的工具。在本文中我们介绍 AdViCE，一种旨在引导用户进行黑盒模型调试与验证的可视分析工具。该方案依赖于两个主要的视觉用户界面创新：（1）一种支持对用户定义数据子集上的决策进行比较的交互式可视化设计；（2）一种计算和可视化反事实解释的算法与视觉设计——这些解释刻画了当数据特征从其原始值被扰动时模型的输出。我们通过一个用例演示了该工具，展示了所提方法的能力与潜在局限性。
引用
@article{arxiv.2109.05629,
title = {AdViCE: Aggregated Visual Counterfactual Explanations for Machine Learning Model Validation},
author = {Oscar Gomez and Steffen Holter and Jun Yuan and Enrico Bertini},
journal= {arXiv preprint arXiv:2109.05629},
year = {2021}
}
备注
4 pages, 2 figures, IEEE VIS 2021 Machine learning, interpretability, explainability, counterfactual explanations, data visualization