面向时间序列与模型归因解释的交互式稠密像素可视化
人工智能
2024-08-28 v1 人机交互
机器学习
摘要
深度神经网络模型的可解释人工智能 (XAI) 领域取得了显著发展，提供了诸多技术来从模型中提取解释。然而，对解释的评估往往并不简单，尤其是当数据不可解释时，所采用的不同指标差异可能微妙。因此，针对此类数据（例如时间序列）的可视化工具备需发展。我们提出 DAVOTS，一种用于探索原始时间序列数据、神经网络激活值以及归因的交互式可视化分析方法，采用稠密像素可视化以深入了解数据、模型决策及解释。为进一步支持用户探索大规模数据集，我们应用聚类方法对可视化数据域进行分组，并提出排序策略以支持单个或组合数据探索，从而便于发现模式。我们对在 FordA 数据集上训练的 CNN 模型进行演示。
引用
@article{arxiv.2408.15073,
title = {Interactive dense pixel visualizations for time series and model attribution explanations},
author = {Udo Schlegel and Daniel A. Keim},
journal= {arXiv preprint arXiv:2408.15073},
year = {2024}
}
备注
5 pages, 2 figures, accepted at MLVIS 2023