VINE：黑盒模型中统计交互作用的可视化
机器学习
2019-04-02 v1 机器学习
摘要
随着机器学习日益普及，对预测模型可解释解释的迫切需求随之而来。先前工作已开发出可视化全局模型行为的有效方法，以及生成局部（实例特定）解释的方法。然而，相对而言极少有工作涉及区域解释——相似实例组在复杂模型中如何表现，以及与之相关的统计特征交互可视化问题。可用于这些分析需求的工具之匮乏，阻碍了关键任务、透明且符合社会目标的模型之发展。我们提出VINE（Visual INteraction Effects），一种提取并可视化黑盒模型中统计交互效应的新型算法。我们还提出了可解释机器学习领域中用于可视化的新型评估指标。
引用
@article{arxiv.1904.00561,
title = {VINE: Visualizing Statistical Interactions in Black Box Models},
author = {Matthew Britton},
journal= {arXiv preprint arXiv:1904.00561},
year = {2019}
}