气象预报中的对抗观测
密码学与安全
2025-04-23 v1 机器学习
摘要
AI系统（如谷歌的GenCast）最近在天气预报领域取得了新的研究成果，提供了对日常天气和极端天气事件更准确、更及时的预测。虽然这些系统正在取代传统气象方法，但它们也引入了新的漏洞。本文研究了这一威胁，提出了一种针对自回归扩散模型（如GenCast所使用的模型）的新型攻击，能够操控天气预报并制造假象的极端天气事件，包括风暴、热浪和强降雨。该攻击在天气观测中引入细微扰动，这些扰动与自然噪声在统计上难以区分，且对测量值的改变不足0.1%——相当于仅篡改一颗气象卫星的数据。在现代预报系统将几乎来自一百多颗卫星以及其他大量来源的数据整合在一起的情况下，我们的发现凸显了潜在的重大安全风险，可能导致大规模的中断并动摇公众对天气预测可信度。
引用
@article{arxiv.2504.15942,
title = {Adversarial Observations in Weather Forecasting},
author = {Erik Imgrund and Thorsten Eisenhofer and Konrad Rieck},
journal= {arXiv preprint arXiv:2504.15942},
year = {2025}
}