基于梯度分析的神经网络认知边界探查
机器学习
2023-04-13 v2 人工智能
计算机视觉与模式识别
摘要
我们分析神经网络的数据依赖容量,并从网络推理视角评估输入中的异常。数据依赖容量的概念允许分析由训练数据所学特征填充的模型知识库。我们定义认知边界(purview)为刻画不同于训练数据的推理样本所需的额外容量。为探查网络的认知边界,我们利用梯度来衡量模型更准确刻画给定输入所需的改变量。为消除生成梯度对真值标签的依赖,我们引入由多个类别标签组合构造的混淆标签。我们证明,基于梯度的方法能有效区分无法由所学特征准确表示的输入。我们将该方法应用于异常输入检测,包括分布外、对抗性和损坏样本。我们的方法无需超参数调优或额外数据处理,并分别以最高2.7%、19.8%和35.6%的AUROC分数优于SOTA方法。
引用
@article{arxiv.2304.02834,
title = {Probing the Purview of Neural Networks via Gradient Analysis},
author = {Jinsol Lee and Charlie Lehman and Mohit Prabhushankar and Ghassan AlRegib},
journal= {arXiv preprint arXiv:2304.02834},
year = {2023}
}
备注
Published in IEEE Access. 17 pages, 6 figures