批量检测对抗样本——一种几何方法
机器学习
2022-06-20 v1
摘要
许多深度学习方法已成功解决了计算机视觉和语音识别应用中的复杂任务。然而，这些模型的鲁棒性被发现容易受到扰动输入或对抗样本的攻击，这些样本对人眼来说难以察觉，但会导致模型做出错误的输出决策。在本研究中，我们调整并引入了两个几何度量指标：密度和覆盖度，并评估了它们在批量未见数据中检测对抗样本的用途。我们使用 MNIST 和来自 MedMNIST 的两个真实世界生物医学数据集，在两种不同的对抗攻击下对这些度量指标进行了实证研究。我们的实验表明，这两个度量指标在检测对抗样本方面都显示出有希望的结果。我们相信，这项工作可以为进一步研究这些度量指标在已部署的机器学习系统中的应用奠定基础，以监控对抗样本或相关病理（如数据集偏移）可能带来的攻击。
引用
@article{arxiv.2206.08738,
title = {Detecting Adversarial Examples in Batches -- a geometrical approach},
author = {Danush Kumar Venkatesh and Peter Steinbach},
journal= {arXiv preprint arXiv:2206.08738},
year = {2022}
}
备注
Submitted to AdvML workshop at ICML2022