可视化 DNN 中中间层视觉模式的出现
计算机视觉与模式识别
2021-11-08 v1 人工智能
机器学习
摘要
本文提出一种方法，用于可视化由 DNN 编码的中间层视觉模式的判别能力。具体而言，我们可视化了（1）DNN 在训练过程中如何在各中间层逐步学习区域视觉模式，以及（2）DNN 利用低层中的非判别模式通过前向传播构建中/高层判别模式的效果。基于我们的可视化方法，我们可以量化 DNN 学习到的知识点（即判别性视觉模式的数量）以评估 DNN 的表示能力。此外，该方法也为现有深度学习技术（如对抗攻击和知识蒸馏）的信号处理行为提供了新的见解。
引用
@article{arxiv.2111.03505,
title = {Visualizing the Emergence of Intermediate Visual Patterns in DNNs},
author = {Mingjie Li and Shaobo Wang and Quanshi Zhang},
journal= {arXiv preprint arXiv:2111.03505},
year = {2021}
}