信息物理系统异常检测器的对抗攻击与缓解
密码学与安全
2021-06-16 v1 人工智能
机器学习
软件工程
摘要
关键基础设施中信息物理系统(CPSs)面临的威胁推动了大量攻击检测机制的研究，包括基于神经网络模型的异常检测器。异常检测器的有效性可通过将其置于攻击测试套件中来评估，但较少考虑那些专门设计用于欺骗它们的对抗攻击者。尽管对抗攻击在图像和音频等领域已成功应用，但由于CPS中存在其他内置防御机制(如规则检查器或不变式检查器)，其实现难度要大得多。本工作中，我们提出一种同时规避CPS异常检测器和规则检查器的对抗攻击。受现有基于梯度的方法启发，我们的对抗攻击在传感器与执行器数值上构造噪声，随后使用遗传算法优化后者，确保神经网络与规则检查系统均被欺骗。我们在两个真实关键基础设施测试平台上实现了该方法，将其检测器的分类准确率平均降低超过50%，同时规避了规则检查器的检测。最后，我们探讨了是否可通过在对抗样本上训练检测器来缓解这些攻击。
引用
@article{arxiv.2105.10707,
title = {Adversarial Attacks and Mitigation for Anomaly Detectors of Cyber-Physical Systems},
author = {Yifan Jia and Jingyi Wang and Christopher M. Poskitt and Sudipta Chattopadhyay and Jun Sun and Yuqi Chen},
journal= {arXiv preprint arXiv:2105.10707},
year = {2021}
}
备注
Accepted by the International Journal of Critical Infrastructure Protection (IJCIP)