对循环模型的在线规避攻击：预知未来的威力

循环模型频繁用于自动驾驶等在线任务中，亟需对其脆弱性进行全面研究。现有研究在通用性上有限，仅针对特定应用的脆弱性或做出不切实际的假设（如已知未来输入）。本文中，我们提出一个面向在线任务的通用攻击框架，纳入了不同于离线任务的在线设置独有约束。我们的框架具有通用性，涵盖时变对抗目标和各种优化约束，从而允许对鲁棒性进行全面研究。利用该框架，我们还提出了一种称为预测攻击 (Predictive Attack) 的新型白盒攻击，其“预知”未来。该攻击平均达到了理想但不可行的全知攻击 (clairvoyant attack) 98% 的性能。我们通过多种实验验证了所提框架与攻击的有效性。