GRILL：恢复病态层中的梯度信号以实现对自编码器更有效的对抗攻击
机器学习
2026-02-24 v4 人工智能
计算机视觉与模式识别
摘要
深度自编码器（AEs）的对抗鲁棒性相比判别模型受到的关注较少，尽管它们压缩的潜在表示会引入病态映射，这种映射可以放大微小的输入扰动并破坏重建的稳定性。现有的针对自编码器的白盒攻击通过优化范数有界的对抗扰动来最大化输出损害，但常常止步于次优攻击。我们观察到，这一局限性源于在反向传播通过病态层时，由于其雅可比矩阵中接近零的奇异值，导致对抗损失梯度消失。为了解决这个问题，我们引入了 GRILL，这是一种在病态层中局部恢复梯度信号的技术，从而实现更有效的范数有界攻击。通过在多种自编码器架构上进行广泛实验，并考虑在标准和自适应攻击设置下的样本特定攻击和通用攻击，我们表明 GRILL 显著提高了攻击有效性，从而对自编码器的鲁棒性进行了更严格的评估。除了自编码器，我们提供的实证证据表明，具有编码器-解码器结构的现代多模态架构在 GRILL 下也表现出类似的脆弱性。
引用
@article{arxiv.2505.03646,
title = {GRILL: Restoring Gradient Signal in Ill-Conditioned Layers for More Effective Adversarial Attacks on Autoencoders},
author = {Chethan Krishnamurthy Ramanaik and Arjun Roy and Tobias Callies and Eirini Ntoutsi},
journal= {arXiv preprint arXiv:2505.03646},
year = {2026}
}