对基于深度学习的 prognostics 的通用对抗攻击
机器学习
2021-09-16 v1 人工智能
密码学与安全
摘要
基于深度学习的时间序列模型正被广泛应用于工程和制造行业的过程控制与优化、资产监测、诊断与预测性维护。这些模型在预测工业设备剩余使用寿命(RUL)方面表现出巨大改进,但存在对对抗攻击的固有脆弱性。这些攻击很容易被利用,并可能导致关键工业设备的灾难性故障。一般而言,针对输入数据的每个实例计算不同的对抗扰动。然而,由于较高的计算需求以及缺乏对输入数据的持续访问,攻击者在实时中难以实现这一点。因此,我们提出通用对抗扰动的概念,一种用于欺骗基于回归的 RUL 预测模型的特殊不可感知噪声。攻击者可以轻易利用通用对抗扰动进行实时攻击,因为对输入数据的连续访问和重复计算对抗扰动并非其前提条件。我们使用 NASA 涡扇发动机数据集评估了通用对抗攻击的影响。我们表明,向输入数据的任何实例添加通用对抗扰动都会增加模型预测输出的误差。据我们所知,我们首次研究了通用对抗扰动对时间序列回归模型的影响。我们进一步展示了改变扰动强度对 RUL 预测模型的影响,发现模型准确率随通用对抗攻击扰动强度的增加而下降。我们还展示了通用对抗扰动可以在不同模型之间迁移。
引用
@article{arxiv.2109.07142,
title = {Universal Adversarial Attack on Deep Learning Based Prognostics},
author = {Arghya Basak and Pradeep Rathore and Sri Harsha Nistala and Sagar Srinivas and Venkataramana Runkana},
journal= {arXiv preprint arXiv:2109.07142},
year = {2021}
}
备注
7 pages