一种用于恢复图像分类器训练集分布的方法

卷积神经网络是现代图像分类中众所周知的支柱。然而，评估此类模型的质量与鲁棒性可能较为困难。已知深度模型在给定训练集与估计集上表现良好，但容易被专门生成以欺骗的数据所愚弄。已有研究表明，人们可以生成不代表目标类别但能以目标方式激活网络的人工样本。本文描述了一种无需深入了解底层分布即可从图像分类器的训练集分布中重建样本的新方法。这使得我们能够访问对卷积网络决策影响最大的图像元素，并提取关于训练分布的有意义信息。