预报失败：揭示天气预测模型中的规避攻击
机器学习
2025-12-10 v1
摘要
随着 AI 模型在天气预报中日益依赖，评估其对对抗性扰动的脆弱性至关重要。本工作引入了天气自适应对抗扰动优化（WAAPO），这是一个用于生成目标对抗扰动的新型框架，这些扰动既能有效操纵预报结果，又能隐蔽地避免被检测。WAAPO 通过纳入通道稀疏性、空间局部化和平滑性约束，确保扰动保持物理真实性和不可察觉性。使用 ERA5 数据集和 FourCastNet（Pathak et al. 2022），我们展示了 WAAPO 在受限条件下生成与预定义目标紧密对齐的对抗轨迹的能力。我们的实验揭示了 AI 驱动的预报模型中的关键漏洞，其中初始条件的小扰动可能导致预测天气模式的显著偏差。这些发现强调了保护运营预报系统免受对抗性利用的稳健保障措施的必要性。
引用
@article{arxiv.2512.08832,
title = {Forecasting Fails: Unveiling Evasion Attacks in Weather Prediction Models},
author = {Huzaifa Arif and Pin-Yu Chen and Alex Gittens and James Diffenderfer and Bhavya Kailkhura},
journal= {arXiv preprint arXiv:2512.08832},
year = {2025}
}