对概率自回归预测模型的对抗攻击
机器学习
2020-03-26 v1 机器学习
摘要
我们提出了一种对输出概率分布序列而非单值序列的神经网络模型生成有效对抗攻击的方法。该设定包括近期提出的深度概率自回归预测模型，其根据时间序列的过去估计其概率分布，并在多种应用领域中取得最先进（SOTA）结果。我们解决的关键技术挑战是通过输出序列联合分布的蒙特卡洛（Monte-Carlo）估计统计量进行有效微分。此外，我们将先前关于概率预测的工作扩展到贝叶斯设定，允许以未来观测为条件，而不仅以过去观测为条件。我们证明了我们的方法能在两个鲁棒决策至关重要的挑战性任务中，以微小输入扰动成功生成攻击：股票市场交易与电力消耗预测。
引用
@article{arxiv.2003.03778,
title = {Adversarial Attacks on Probabilistic Autoregressive Forecasting Models},
author = {Raphaël Dang-Nhu and Gagandeep Singh and Pavol Bielik and Martin Vechev},
journal= {arXiv preprint arXiv:2003.03778},
year = {2020}
}
备注
15 pages, 6 figures