前馈神经网络特征可视化过程的逆化
机器学习
2020-07-22 v1 机器学习
摘要
本工作阐明了神经网络中特征可视化的可逆性。由于通过激活最大化进行特征可视化所生成的输入通常并不产生其被优化所针对的特征目标，我们研究优化能产生该输入的特征目标。给定激活最大化中使用的、衡量给定输入与特征目标相似程度的客观函数，我们利用该函数对输入的梯度——除缩放因子外——在目标上线性这一性质。该观察被用于通过求解使梯度最小的闭式解来找到最优特征目标。借助逆特征可视化，我们旨在提供一种考虑特征目标而非激活的、关于网络对某些输入敏感性的替代视角。
引用
@article{arxiv.2007.10757,
title = {Inverting the Feature Visualization Process for Feedforward Neural Networks},
author = {Christian Reinbold and Rüdiger Westermann},
journal= {arXiv preprint arXiv:2007.10757},
year = {2020}
}