防范针对自主态势感知的对抗性AI攻击：海事案例研究
密码学与安全
2025-05-29 v1 人工智能
摘要
对抗性人工智能(AI)攻击对依赖AI组件的自主交通工具（如海上船舶）构成了重大威胁。恶意行为者可以利用这些系统来欺骗和操纵AI驱动的操作。本文探讨了对抗性AI相关的三个关键研究挑战：传统防御的局限性、安全指标的不足，以及在模型级防御之外构建韧性的需求。为了应对这些挑战，我们提出利用多输入和数据融合构建防御组件，并以AI安全指标作为开发更安全AI系统的新方法。我们将此方法命名为数据融合网络韧性(DFCR)方法，并通过实际演示和全面的定量分析对其进行评估，将基于DFCR方法构建的系统与单输入模型及采用现有最先进防御的模型进行比较。结果表明，DFCR方法显著增强了海上自主系统操作抵御对抗性机器学习攻击的韧性，在使用这些更具韧性的系统时，针对成功的多管扰动攻击损失降低高达35%，针对成功的对抗性补丁攻击损失降低高达100%，针对成功的欺骗攻击损失降低高达100%。我们展示了DFCR及DFCR置信度得分如何降低对抗性AI接触置信度并改善系统决策，即使在典型对抗防御已被攻破的情况下亦然。最终，这项工作有助于开发抵御对抗攻击的更安全、更具韧性的AI驱动系统。
引用
@article{arxiv.2505.21609,
title = {Preventing Adversarial AI Attacks Against Autonomous Situational Awareness: A Maritime Case Study},
author = {Mathew J. Walter and Aaron Barrett and Kimberly Tam},
journal= {arXiv preprint arXiv:2505.21609},
year = {2025}
}