基于自适应稀疏 L0 正则化的模型鲁棒性评估
机器学习
2024-08-29 v1 人工智能
摘要
深度神经网络在各个领域展现了显著的成功，但仍然容易受到对抗样本的影响，这类样本是经过微小扰动的输入，旨在引发误分类。虽然对抗攻击通常在 Lp 范数约束下进行优化，但基于 L0 范数、优先输入稀疏性的攻击鲜有研究，由于其复杂且非凸的性质。这些稀疏对抗样本通过改变最小子集的特征来挑战现有防御措施，从而可能揭示更微妙的 DNN 弱点。然而，当前的 L0 范数攻击方法在准确性与效率之间存在权衡：要么精确但计算密集，要么快速但不够精确。本文提出了一种新颖、可扩展且高效的方法，用于生成基于 L0 范数的对抗样本，以细化对 DNN 这种扰动方式的鲁棒性评估。
引用
@article{arxiv.2408.15702,
title = {Evaluating Model Robustness Using Adaptive Sparse L0 Regularization},
author = {Weiyou Liu and Zhenyang Li and Weitong Chen},
journal= {arXiv preprint arXiv:2408.15702},
year = {2024}
}
备注
Accepted by the 20th International Conference on Advanced Data Mining and Applications (ADMA 2024)