时间序列预测中的定向攻击
机器学习
2023-01-30 v1 人工智能
密码学与安全
摘要
为时间序列预测开发的现实世界深度学习模型被用于从医疗设备到安全领域的若干关键应用。许多先前的工作已展示深度学习模型易受对抗攻击并研究了其脆弱性。然而，由于对抗输入导致的时间序列预测模型的脆弱性尚未得到广泛探索。虽然对预测模型的攻击可能旨在恶化模型性能，但如果攻击聚焦于对模型输出的特定影响，则更为有效。在本文中，我们提出了一种针对时间序列预测模型的方向性、幅度性和时间性定向对抗攻击的新颖形式。这些定向攻击对输出预测的幅度和方向产生特定影响。我们采用计算机视觉领域现有的对抗攻击技术并将其适配于时间序列。此外，我们提出了一种用于定向攻击的自动投影梯度下降（Auto Projected Gradient Descent）攻击的改进版本。我们考察了所提定向攻击与非定向攻击的影响。我们使用 KS 检验从统计上证明攻击的影响。我们的实验结果显示，针对时间序列模型的定向攻击是可行的，并且在统计相似性方面更为强大。因此，其难以通过统计方法检测。我们认为，本工作开创了时间序列预测领域的新范式，并为开发更好的防御措施提供了重要考量。
引用
@article{arxiv.2301.11544,
title = {Targeted Attacks on Timeseries Forecasting},
author = {Yuvaraj Govindarajulu and Avinash Amballa and Pavan Kulkarni and Manojkumar Parmar},
journal= {arXiv preprint arXiv:2301.11544},
year = {2023}
}