基于神经网络传输动力学的对抗样本检测
机器学习
2023-06-09 v2
摘要
我们提出一种基于将神经网络视为离散动力系统观点的对抗样本检测器。该检测器通过比较干净输入与异常输入在各层所遵循的离散向量场来区分二者。我们还表明，在训练中对这一向量场进行正则化可使网络在数据分布支撑集上更规整，从而使干净输入的激活更易与异常输入区分。在实验上，我们在已见与未见攻击下将我们的检测器与其他检测器进行有利比较，并表明对网络动力学的正则化提升了以内部嵌入为输入的对抗检测器的性能，同时也提高了测试准确率。
引用
@article{arxiv.2306.04252,
title = {Adversarial Sample Detection Through Neural Network Transport Dynamics},
author = {Skander Karkar and Patrick Gallinari and Alain Rakotomamonjy},
journal= {arXiv preprint arXiv:2306.04252},
year = {2023}
}
备注
ECML PKDD 2023