受约束对抗性扰动
机器学习
2025-10-20 v1
摘要
深度神经网络在广泛的分类任务中取得了显著的成功，但仍高度易受对抗样本的攻击——即输入被微妙扰动以导致误分类，而对人类而言看似不变。尽管存在多种攻击策略，但通用对抗性扰动（UAPs）已成为强大的工具，用于测试模型鲁棒性并促进可扩展的对抗训练。尽管其有效性已显现，但大多数现有UAP方法忽略了支配特征关系的领域特定约束。违反此类约束（例如信用评分中的债务收入比率或网络通信中的数据包流 invariants），会导致对抗样本不切实际或易被检测，从而限制其实际应用。本文通过构建基于拉urkian的min max优化问题来实现对多个可能性复杂约束的强制执行，从而将通用对抗攻击推进到受约束特征空间。我们提出了受约束对抗性扰动（CAP），一种使用梯度交替优化策略求解该问题的高效算法。我们在包括金融、IT网络和网络物理系统在内的多个领域进行评估，证明其在保持更高攻击成功率的同时，显著减少了运行时间。我们的ethods还能无缝推广到单个对抗性扰动，我们观察到类似的强大性能提升。最终，我们引入了一种原则性的从数据中学习特征约束的程序，使其在具有结构化输入空间的领域中具有广泛适用性。
引用
@article{arxiv.2510.15699,
title = {Constrained Adversarial Perturbation},
author = {Virendra Nishad and Bhaskar Mukhoty and Hilal AlQuabeh and Sandeep K. Shukla and Sayak Ray Chowdhury},
journal= {arXiv preprint arXiv:2510.15699},
year = {2025}
}