一种评估机器学习分类器对抗距离的实用方法
机器学习
2024-09-06 v1 计算机视觉与模式识别
摘要
鲁棒性对于机器学习 (ML) 分类器至关重要，以确保模型在可能遇到损坏或对抗输入的现实应用中保持一致的性能。特别是，评估分类器对对抗输入的鲁棒性对于保护系统免受漏洞利用从而确保使用安全至关重要。然而，对于复杂的 ML 模型和高维数据，精确计算对抗鲁棒性的方法一直具有挑战性。此外，评估通常测量特定攻击预算下的对抗准确率，限制了所得指标的信息价值。本文研究使用迭代对抗攻击和认证方法来估计更具信息量的对抗距离。这些方法相结合，通过计算对抗距离上下界的估计值，提供了对对抗鲁棒性的全面评估。我们提供了可视化和消融研究，深入探讨了应如何应用和参数化该评估方法。我们发现，与相关实现相比，我们的对抗攻击方法是有效的，而认证方法未达到预期。本文的方法应能鼓励一种更具信息量的评估 ML 分类器对抗鲁棒性的方式。
引用
@article{arxiv.2409.03598,
title = {A practical approach to evaluating the adversarial distance for machine learning classifiers},
author = {Georg Siedel and Ekagra Gupta and Andrey Morozov},
journal= {arXiv preprint arXiv:2409.03598},
year = {2024}
}
备注
Accepted manuscript at International Mechanical Engineering Congress and Exposition IMECE2024