微小噪声，重大错误：对抗扰动导致脑机接口拼写器出错
人机交互
2022-11-15 v4 机器学习
信号处理
摘要
基于脑电图（EEG）的脑机接口（BCI）拼写器允许用户通过意念向计算机输入文本。它对重度残疾者尤为有用，例如肌萎缩侧索硬化症患者，他们没有其他与人或计算机有效沟通的手段。迄今多数研究聚焦于使基于 EEG 的 BCI 拼写器更快更可靠；然而极少有研究考虑其安全性。本研究首次表明，P300 与稳态视觉诱发电位 BCI 拼写器非常脆弱，即它们可被对抗扰动严重攻击——这些扰动添加到 EEG 信号中微小到难以察觉，却能误导拼写器拼出攻击者想要的任何内容。后果可能从单纯的用户挫败感到临床应用中的严重误诊。我们希望本研究能吸引更多对基于 EEG 的 BCI 拼写器、更广泛地对基于 EEG 的 BCI 安全性的关注，此前该方向鲜受重视。
引用
@article{arxiv.2001.11569,
title = {Tiny noise, big mistakes: Adversarial perturbations induce errors in Brain-Computer Interface spellers},
author = {Xiao Zhang and Dongrui Wu and Lieyun Ding and Hanbin Luo and Chin-Teng Lin and Tzyy-Ping Jung and Ricardo Chavarriaga},
journal= {arXiv preprint arXiv:2001.11569},
year = {2022}
}