基于EEG的BCI中CNN分类器的脆弱性研究
机器学习
2019-04-03 v1 密码学与安全
机器学习
摘要
深度学习因其卓越性能及避免手动特征工程的能力已成功用于众多应用。其中一个应用是基于脑电图（EEG）的脑机接口（BCI），已有多种卷积神经网络（CNN）模型被提出用于EEG分类。然而，研究发现深度学习模型易被对抗样本轻易欺骗，对抗样本是带有微小刻意扰动的正常样本。本文提出一种无监督快速梯度符号方法（UFGSM）来攻击BCI中三种流行的CNN分类器，并证明其有效性。我们还验证了BCI中对抗样本的可迁移性，这意味着即便不知晓目标模型的架构与参数，或其训练所用数据集，也可实施攻击。据我们所知，这是首个关于基于EEG的BCI中CNN分类器脆弱性的研究，并希望能引发对BCI系统安全性的更多关注。
引用
@article{arxiv.1904.01002,
title = {On the Vulnerability of CNN Classifiers in EEG-Based BCIs},
author = {Xiao Zhang and Dongrui Wu},
journal= {arXiv preprint arXiv:1904.01002},
year = {2019}
}