Melody：生成并可视化机器学习模型摘要以协同理解数据与分类器
人机交互
2020-07-22 v1
摘要
随着机器学习模型日益复杂，开发仅聚焦于单个实例（局部解释）以确保对原模型忠实性的模型解释技术渐成趋势。尽管这些技术能在各类数据基元（如表格、图像或文本）上提供准确的模型可解释性，一个整体的可解释人工智能（XAI）体验仍需对模型与数据集提供全局解释，以支持不同粒度下的意义建构。因此，协同模型解释与可视化分析方法具有巨大潜力。本文提出 MELODY，一种交互式算法，利用信息论汇总局部解释，从而构建模型与数据行为的优化全局概览。该结果（即解释摘要）无需额外的学习模型、对数据基元的限制，或用户具备机器学习知识。我们还设计了 MELODY UI，一个交互式可视化分析系统，以展示该解释摘要如何在不同粒度的 XAI 任务中从全局概览连接到局部检视。我们给出关于表格、图像与文本分类的三个使用场景，说明如何推广不同数据的模型可解释性。实验表明我们的方法：（1）相比直接的信息论摘要提供了更优的解释摘要；（2）在端到端数据建模流程中实现了显著加速。
引用
@article{arxiv.2007.10614,
title = {Melody: Generating and Visualizing Machine Learning Model Summary to Understand Data and Classifiers Together},
author = {Gromit Yeuk-Yin Chan and Enrico Bertini and Luis Gustavo Nonato and Brian Barr and Claudio T. Silva},
journal= {arXiv preprint arXiv:2007.10614},
year = {2020}
}