Deephys：深度电生理学——分布偏移下神经网络的调试
机器学习
2023-03-22 v1 人工智能
摘要
深度神经网络（DNNs）在分布外场景中常出现失效。本文介绍一种用于可视化并理解此类失效的工具。我们受神经电生理学概念启发，其基于通过分析单个单元的特征调谐与不变性来检视神经网络的内部运作。深度电生理学，简称Deephys，借助对分布内与分布外数据集中神经活动的比较可视化，揭示DNN在分布外场景中的失效。Deephys可对单个神经元、单张图像及来自某一类别的图像集合进行无缝分析，并能揭示由伪特征与新特征存在所导致的失效。我们在多个数据集与分布偏移（即彩色MNIST、CIFAR-10与ImageNet）上，使用卷积与Transformer架构对Deephys的定性可视化有效性进行了定量分析的证实。
引用
@article{arxiv.2303.11912,
title = {Deephys: Deep Electrophysiology, Debugging Neural Networks under Distribution Shifts},
author = {Anirban Sarkar and Matthew Groth and Ian Mason and Tomotake Sasaki and Xavier Boix},
journal= {arXiv preprint arXiv:2303.11912},
year = {2023}
}
备注
12 pages, 8 figures