对抗机器学习问题在求解与评估上日益困难
机器学习
2025-02-05 v1 密码学与安全
摘要
在过去十年中，大量研究致力于保障在对抗环境中运行的机器学习（ML）模型的安全。然而，即使对于简单的“玩具”问题（例如，对小对抗扰动的鲁棒性），进展依然缓慢，且常常因不严格的评估而受阻。如今，对抗机器学习研究的重心已转向研究更大规模的通用语言模型。在这篇立场论文中，我们认为现在的情况更加糟糕：在 LLM 时代，对抗机器学习领域研究的问题（1）定义不够明确，（2）更难求解，且（3）评估更具挑战性。因此，我们提醒，若继续如此，对抗机器学习领域的又一个十年工作可能无法产生有意义的进展。
引用
@article{arxiv.2502.02260,
title = {Adversarial ML Problems Are Getting Harder to Solve and to Evaluate},
author = {Javier Rando and Jie Zhang and Nicholas Carlini and Florian Tramèr},
journal= {arXiv preprint arXiv:2502.02260},
year = {2025}
}