段错误：一种针对对抗机器学习的低成本防御方法
密码学与安全
2021-09-01 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
最近发表的针对深度神经网络（DNNs）的攻击强调了在关键系统中评估使用该技术的安全风险的方法与工具的重要性。高效检测对抗机器学习的技术有助于建立信任并促进深度学习在敏感和安全系统中的采用。在本文中，我们提出了一种防御深度神经网络分类器（尤其是卷积分类器）的新技术。我们的防御是低成本的，因为尽管在检测精度上需付出微小代价，但其所需计算能力更少。本工作参考了最近发表的一种称为 ML-LOO 的技术。我们用粗粒度留一法替代了 ML-LOO 中代价高昂的逐像素留一法。我们评估并比较了不同分割算法在该任务上的效率。我们的结果表明，即便以检测精度边际下降为代价，仍可能获得效率上的大幅提升。
引用
@article{arxiv.2108.13617,
title = {Segmentation Fault: A Cheap Defense Against Adversarial Machine Learning},
author = {Doha Al Bared and Mohamed Nassar},
journal= {arXiv preprint arXiv:2108.13617},
year = {2021}
}