基于 EEG 的脑机接口中黑盒对抗攻击的主动学习
机器学习
2019-11-12 v1 密码学与安全
人机交互
信号处理
摘要
深度学习已在包括基于脑电图（EEG）的脑机接口（BCI）在内的诸多领域取得显著突破。然而，深度学习模型易受对抗攻击，即向良性输入样本添加精心设计的微小扰动以欺骗深度学习模型并降低其性能。本文考虑基于可迁移性的黑盒攻击，其中攻击者训练替代模型来逼近目标模型，然后从替代模型生成对抗样本以攻击目标模型。学习一个好的替代模型对这些攻击的成功至关重要，但这需要对目标模型进行大量查询。我们提出了一种新颖框架，使用基于查询合成的主动学习来提高训练替代模型时的查询效率。在三个卷积神经网络（CNN）分类器和三个 EEG 数据集上的实验表明，我们的方法在相同查询次数下可提高攻击成功率，换言之，我们的方法达到期望攻击性能所需的查询更少。据我们所知，这是首个将主动学习和对抗攻击结合用于基于 EEG 的 BCI 的工作。
引用
@article{arxiv.1911.04338,
title = {Active Learning for Black-Box Adversarial Attacks in EEG-Based Brain-Computer Interfaces},
author = {Xue Jiang and Xiao Zhang and Dongrui Wu},
journal= {arXiv preprint arXiv:1911.04338},
year = {2019}
}