用于不确定性估计的对抗攻击：识别神经网络中的关键区域
机器学习
2021-12-21 v2 机器学习
摘要
我们提出了一种新方法，以捕获神经网络中靠近决策边界的数据点，这些点常被称为一种特定类型的不确定性。在我们的方法中，我们试图基于对抗攻击方法的思路进行不确定性估计。与以往如贝叶斯方法中对模型参数施加扰动的研究不同，本文的不确定性估计源自输入扰动。我们能够通过少量输入扰动产生不确定性。有趣的是，我们将所提方法应用于源自区块链的数据集。我们将模型不确定性的性能与最新不确定性方法进行比较。我们表明，所提方法显著优于其他方法，并在捕获机器学习中的模型不确定性时提供了更小的风险。
引用
@article{arxiv.2107.07618,
title = {Adversarial Attack for Uncertainty Estimation: Identifying Critical Regions in Neural Networks},
author = {Ismail Alarab and Simant Prakoonwit},
journal= {arXiv preprint arXiv:2107.07618},
year = {2021}
}
备注
15 pages, 6 figures, Neural Process Lett (2021)