深度神经网络的敏感性分析
机器学习
2019-12-23 v1 人工智能
机器学习
摘要
深度神经网络（DNNs）在各种预测任务中取得了优越性能，但可能对对抗样本或扰动非常脆弱。因此，在实际应用中衡量 DNN 对各种形式扰动的敏感性至关重要。我们引入一种新颖的扰动流形及其关联的影响度量，以量化各种扰动对 DNN 分类器的影响。此类扰动包括对输入样本与网络参数的各种外部与内部扰动。所提度量受信息几何启发，并提供理想的不变性性质。我们展示了我们的影响度量对四项模型构建任务有用：检测潜在“离群点”、分析模型架构的敏感性、比较训练集与测试集之间的网络敏感性，以及定位脆弱区域。实验表明，所提度量在 CIFAR10 与 MNIST 数据集上对于流行的 DNN 模型 ResNet50 与 DenseNet121 具有相当良好的性能。
引用
@article{arxiv.1901.07152,
title = {Sensitivity Analysis of Deep Neural Networks},
author = {Hai Shu and Hongtu Zhu},
journal= {arXiv preprint arXiv:1901.07152},
year = {2019}
}
备注
Accepted by AAAI-19