基于知识蒸馏的轻量级域对抗神经网络用于基于EEG的跨被试情绪识别
信号处理
2023-05-15 v1 机器学习
摘要
脑电图（EEG）的个体差异可能引起域偏移，从而显著降低跨被试策略的性能。域对抗神经网络（DANN）通过分类损失与域损失联合更新特征提取器参数，被用于应对域偏移。然而，有限的EEG数据量和强烈的个体差异对具有笨重特征提取器的DANN构成挑战。本工作中，我们提出基于知识蒸馏（KD）的轻量级DANN以增强基于EEG的跨被试情绪识别。具体而言，利用具有强上下文学习能力的教师模型学习EEG的复杂时间动态与空间关联，并由教师模型引导鲁棒的轻量级学生模型学习更困难的域不变特征。在基于特征的KD框架中，以基于transformer的分层时空学习模型作为教师模型。由Bi-LSTM单元组成的学生模型是教师模型的轻量级版本。因此，学生模型可通过利用互补的潜在时间特征与空间特征被监督以模仿教师模型的鲁棒特征表示。在基于DANN的跨被试情绪识别中，我们将所得学生模型与轻量级时空特征交互模块组合作为特征提取器。并将特征聚合输入情绪分类器与域分类器以进行域不变特征学习。为验证所提方法的有效性，我们在公开数据集DEAP上以唤醒度和效价分类进行了被试无关实验。潜在的优异性能与t-SNE特征可视化验证了所提方法的优势与有效性。
引用
@article{arxiv.2305.07446,
title = {A Lightweight Domain Adversarial Neural Network Based on Knowledge Distillation for EEG-based Cross-subject Emotion Recognition},
author = {Zhe Wang and Yongxiong Wang and Jiapeng Zhang and Yiheng Tang and Zhiqun Pan},
journal= {arXiv preprint arXiv:2305.07446},
year = {2023}
}