利用主动子空间在深度神经网络中传播不确定性
机器学习
2020-01-14 v2 计算机视觉与模式识别
机器学习
摘要
来自真实世界数据的深度神经网络（DNN）输入通常带有不确定性。然而，以低计算成本将输入特征中的不确定性传播至DNN预测是具有挑战性的。本工作采用基于梯度的子空间方法和响应面技术来加速DNN中的不确定性传播。具体而言，利用主动子空间方法，通过DNN输出对输入的梯度识别输入特征中最重要的子空间。随后可高效构建该低维子空间内的响应面，并通过评估计算廉价的响应面而非DNN模型来获得预测的不确定性。此外，该子空间有助于解释对抗样本。该方法在MNIST数据集上以卷积神经网络进行了演示。代码见：https://github.com/jiweiqi/nnsubspace。
引用
@article{arxiv.1903.03989,
title = {Uncertainty Propagation in Deep Neural Network Using Active Subspace},
author = {Weiqi Ji and Zhuyin Ren and Chung K. Law},
journal= {arXiv preprint arXiv:1903.03989},
year = {2020}
}
备注
Add link to github repo