曲率动态黑盒攻击：通过动态曲率估计重新审视对抗鲁棒性
机器学习
2025-12-01 v3 人工智能
摘要
对抗攻击揭示了深度学习模型的脆弱性。通常假设高曲率会导致决策边界粗糙，从而使模型的鲁棒性降低。然而，最常用的“曲率”是模型内部损失函数、分数或其他参数的曲率，而非决策边界的曲率，因为前者可以通过二阶导数相对容易地求得。在本文中，我们提出了一种新的查询高效方法——动态曲率估计（DCE），用于在黑盒设置下估计决策边界曲率。我们的方法基于 CGBA，一种黑盒对抗攻击。通过对大量分类器执行 DCE，我们在统计上发现了决策边界曲率与对抗鲁棒性之间的联系。我们还提出了一种新的攻击方法——曲率动态黑盒攻击（CDBA），利用估计的曲率实现了性能提升。
引用
@article{arxiv.2505.19194,
title = {Curvature Dynamic Black-box Attack: revisiting adversarial robustness via dynamic curvature estimation},
author = {Peiran Sun},
journal= {arXiv preprint arXiv:2505.19194},
year = {2025}
}