数字孪生的阴面：针对 AI 驱动水源预测的对抗攻击
机器学习
2025-04-30 v1 人工智能
密码学与安全
摘要
数字孪生 (DTs) 通过实时数据、分析和预测模型改进水力分布系统的运行。本文提出了一个针对西班牙水供应网络的数字孪生平台，采用长短期记忆 (LSTM) 网络预测水耗。然而，机器学习模型易受到对抗攻击威胁，如快速梯度符号方法 (FGSM) 和投射梯度下降 (PGD)。这些攻击会操控关键模型参数，注入微小扰动导致预测准确性下降。为进一步利用这些漏洞，我们引入学习自动机 (LA) 和基于随机 LA 的方法，动态调整扰动，使对抗攻击更难以被检测。实验结果表明，该方法显著影响预测可靠性，使均绝对百分比误差 (MAPE) 从 26% 上升至 35% 以上。此外，自适应攻击策略放大了这一效果，凸显了 AI 驱动数字孪生系统的网络安全风险。这些发现突显了迫切需要包括对抗训练、异常检测和安全数据管道在内的强大防御措施。
引用
@article{arxiv.2504.20295,
title = {The Dark Side of Digital Twins: Adversarial Attacks on AI-Driven Water Forecasting},
author = {Mohammadhossein Homaei and Victor Gonzalez Morales and Oscar Mogollon-Gutierrez and Andres Caro},
journal= {arXiv preprint arXiv:2504.20295},
year = {2025}
}
备注
7 Pages, 7 Figures