zoNNscan：一种用于神经网络模型区域检测的边界熵指标
机器学习
2021-01-20 v1 机器学习
摘要
深度神经网络分类器的训练所产生的决策边界其几何性质仍未被很好理解。这与所谓对抗样本等分类问题直接相关。我们引入 zoNNscan，一种旨在告知给定输入数据点周围边界不确定性（就其他类别的存在而言）的指标。它基于置信熵，并通过在该输入周围的多维球中进行采样来实现。我们详述了 zoNNscan 指标，给出了近似计算它的算法，并最终在四个应用上展示了其优势，包括深度网络在关键系统中采用的两个重要问题：对抗样本与极端情况输入。我们强调，在这两类问题中 zoNNscan 相较标准输入表现出显著更高的值。
引用
@article{arxiv.1808.06797,
title = {zoNNscan : a boundary-entropy index for zone inspection of neural models},
author = {Adel Jaouen and Erwan Le Merrer},
journal= {arXiv preprint arXiv:1808.06797},
year = {2021}
}