“真正的攻击者不计算梯度”：弥合对抗机器学习研究与实践之间的鸿沟
密码学与安全
2023-01-02 v1 机器学习
摘要
近年来，关于对抗机器学习的研究大量涌现。众多论文展示了对各种机器学习（ML）模型的强大算法攻击，另有众多论文提出能够抵御大多数攻击的防御方法。然而，大量现实世界的证据表明，实际攻击者使用简单策略来破坏 ML 驱动的系统，因此安全从业者并未将对抗 ML 防御作为优先事项。受研究者与从业者之间明显鸿沟的驱动，本立场论文旨在弥合这两个领域。我们首先呈现三个现实世界的案例研究，从中可以获取研究中未知或被忽视的实用见解。接下来我们分析近期在顶级安全会议上发表的所有对抗 ML 论文，突出积极趋势与盲点。最后，我们就精确且成本驱动的威胁建模、产业界与学术界合作以及可复现研究陈述立场。我们相信，若采纳我们的立场，将增加未来对抗 ML 工作的现实影响，使研究者和从业者更接近其共同目标：提升 ML 系统的安全性。
引用
@article{arxiv.2212.14315,
title = {"Real Attackers Don't Compute Gradients": Bridging the Gap Between Adversarial ML Research and Practice},
author = {Giovanni Apruzzese and Hyrum S. Anderson and Savino Dambra and David Freeman and Fabio Pierazzi and Kevin A. Roundy},
journal= {arXiv preprint arXiv:2212.14315},
year = {2023}
}