面向人情绪评估系统的可解释标签翻转攻击
机器学习
2023-02-09 v1
摘要
本文的主要目标是从攻击者的视角，审视那些在使用脑电图（EEG）信号评估人类情绪的系统训练阶段采用标签翻转的数据投毒攻击。为攻击专用于利用 EEG 信号分类 4 种不同人类情绪的各类机器学习分类器（如自适应提升（AdaBoost）与随机森林），本文提出两种标签翻转方法场景。研究结果表明，所提出的基于标签翻转的数据投毒攻击不论模型如何均告成功，但不同模型对攻击表现出不同程度的抵抗能力。此外，本文运用多种可解释人工智能（XAI）技术来解释基于 EEG 信号的人情绪评估系统上的数据投毒攻击。
引用
@article{arxiv.2302.04109,
title = {Explainable Label-flipping Attacks on Human Emotion Assessment System},
author = {Zhibo Zhang and Ahmed Y. Al Hammadi and Ernesto Damiani and Chan Yeob Yeun},
journal= {arXiv preprint arXiv:2302.04109},
year = {2023}
}