DeepVisualInsight：面向深度分类训练时空因果的时间回溯可视化
机器学习
2022-01-05 v1 人工智能
计算机视觉与模式识别
软件工程
摘要
理解深度学习模型的预测在训练过程中如何形成，对于提升模型性能和修复模型缺陷至关重要，尤其当我们需要考察主动学习等非平凡训练策略，并追踪诸如性能退化等意外训练结果的根本原因时。本工作中，我们提出一种时间回溯可视化方案 DeepVisualInsight (DVI)，旨在揭示深度学习图像分类器训练过程中的时空因果。时空因果展示了梯度下降算法及各种训练数据采样技术如何在前后续 epoch 中影响并重塑所学输入表示的布局与分类边界。这种因果性使我们能够在可见的低维空间中观察和分析整个学习过程。技术上，我们提出四个空间与时间属性，并设计我们的可视化方案以满足它们。这些属性在可见低维空间与不可见高维空间之间（逆）投影输入样本时，保留了用于因果分析的最重要信息。我们大量实验表明，相较于基线方法，我们在空间/时间属性及可视化效率上均取得最佳可视化性能。此外，案例研究显示我们的可视化方案能良好反映各类训练场景的特征，表明 DVI 作为分析深度学习训练过程的调试工具具有良好潜力。
引用
@article{arxiv.2201.01155,
title = {DeepVisualInsight: Time-Travelling Visualization for Spatio-Temporal Causality of Deep Classification Training},
author = {Xianglin Yang and Yun Lin and Ruofan Liu and Zhenfeng He and Chao Wang and Jin Song Dong and Hong Mei},
journal= {arXiv preprint arXiv:2201.01155},
year = {2022}
}
备注
Accepted in AAAI'22