利用UMAP Tour比较深度神经网络
人机交互
2021-10-19 v1 计算机视觉与模式识别
机器学习
摘要
神经网络对人类而言应当是可解释的。特别是，人们对某一层中学习到的概念以及层与层之间的相似性越来越感兴趣。在这项工作中，我们构建了一个工具——UMAP Tour，以使用良好对齐的实例级表示来可视地检查和比较真实世界神经网络模型的内部行为。可视化中使用的方法还暗示了一种神经网络层之间的新相似性度量。利用该可视化工具和相似性度量，我们发现了最先进模型中学习到的概念及其之间的差异性，例如GoogLeNet和ResNet。
引用
@article{arxiv.2110.09431,
title = {Comparing Deep Neural Nets with UMAP Tour},
author = {Mingwei Li and Carlos Scheidegger},
journal= {arXiv preprint arXiv:2110.09431},
year = {2021}
}