ROOM：实时约束下的对抗机器学习攻击

深度学习的进展催生了广泛而有前景的应用。然而，这些系统易受对抗机器学习（Adversarial Machine Learning, AML）攻击；对其输入施加对抗性精心构造的扰动可能导致其误分类。若干最先进的对抗攻击已表明它们能够可靠地欺骗分类器，使这些攻击成为重大威胁。对抗攻击生成算法主要关注在控制噪声幅值与分布以增大检测难度的同时生成成功的样本。这些攻击的潜在假设是对抗噪声离线生成，因而将其执行时间视为次要考量。然而，近来研究表明，攻击者在机会出现时即时（just-in-time）在线生成对抗样本的对抗攻击是可能的。本文引入一个新问题：我们如何在实时约束下生成对抗噪声以支持此类实时对抗攻击？理解该问题有助于深化我们对这些攻击给实时系统所构成威胁的认识，并为未来的防御提供安全评估基准。因此，我们首先对对抗生成算法进行运行时分析。通用攻击离线生成一种通用攻击，无在线开销，可应用于任意输入；然而由于其通用性，成功率受限。相比之下，针对特定输入工作的在线算法计算开销大，使其不适合在时间约束下运行。为此，我们提出 ROOM，一种新颖的实时在线-离线攻击构建模型（Real-time Online-Offline attack construction Model），其中离线组件用于预热在线算法，从而能够在时间约束下生成高成功率的攻击。