揭示并缓解迭代优化器的对抗性漏洞
机器学习
2025-04-29 v1 信号处理
摘要
机器学习 (ML) 模型对经过精心挑选且似乎不易察觉的扰动十分敏感。此类对抗样本被认为是 ML 模型的属性，常与其黑盒操作及对从数据中学习到的特征的敏感性相关联。本 work 检查了非学习决策规则，特别是迭代优化器的对抗灵敏性。我们的分析灵感来自深度展开的最新进展，将此类优化器视为 ML 模型。我们展示了非学习迭代优化器与 ML 模型一样对对抗样本敏感，并且有效攻击迭代优化器会以修改所寻求的最小值方式改变优化目标表面。随后，我们利用将受限迭代次数的优化器视为 ML 模型的能力，通过对抗训练来增强鲁棒性。对于一类近端梯度优化器，我们严格证明了其学习如何影响对抗灵敏性。我们通过数值实验支撑我们的发现，展示了各种优化器的脆弱性以及展开和对抗训练所带来的鲁棒性。
引用
@article{arxiv.2504.19000,
title = {Unveiling and Mitigating Adversarial Vulnerabilities in Iterative Optimizers},
author = {Elad Sofer and Tomer Shaked and Caroline Chaux and Nir Shlezinger},
journal= {arXiv preprint arXiv:2504.19000},
year = {2025}
}
备注
Under review for publication in the IEEE