针对基于 EEG 信号的人类情感评估系统的可解释数据投毒攻击
机器学习
2023-03-15 v1 信号处理
摘要
本文的主要目的是从攻击者的角度，解释在部署机器学习模型的脑电（EEG）信号人类情感评估系统训练阶段，利用标签翻转进行的数据投毒攻击。基于 EEG 信号的人类情感评估一直备受研究关注。基于 EEG 信号识别人类情感状态对于检测由内部人员引起的潜在内部威胁是有效的。然而，基于 EEG 信号的人类情感评估系统已表现出对数据投毒攻击的若干脆弱性。实验结果表明，所提出的数据投毒攻击在模型无关的情况下是成功的，尽管不同模型对攻击表现出不同程度的抵抗力。此外，使用多种可解释人工智能（XAI）方法解释了针对基于 EEG 信号的人类情感评估系统的数据投毒攻击，包括 Shapley 加法解释（SHAP）值、局部可解释模型不可知解释（LIME）和生成的决策树。并且本文的代码已在 GitHub 上公开。
引用
@article{arxiv.2301.06923,
title = {Explainable Data Poison Attacks on Human Emotion Evaluation Systems based on EEG Signals},
author = {Zhibo Zhang and Sani Umar and Ahmed Y. Al Hammadi and Sangyoung Yoon and Ernesto Damiani and Claudio Agostino Ardagna and Nicola Bena and Chan Yeob Yeun},
journal= {arXiv preprint arXiv:2301.06923},
year = {2023}
}