用于鲁棒睡眠分期评分的孪生睡眠 Transformer：结合自知识蒸馏与选择性批次采样
信号处理
2022-12-29 v1 人工智能
人机交互
机器学习
摘要
本文提出一种孪生睡眠 Transformer（SST），可从单通道原始脑电图信号中有效提取特征，以实现鲁棒的睡眠分期评分。尽管近年来睡眠分期评分取得了显著进展，但多数工作主要关注模型性能的提升。然而，其他问题依然存在：数据集中的标签偏差，以及重复训练带来的模型性能不稳定性。为缓解这些问题，我们提出 SST，一种具有选择性批次采样策略和自知识蒸馏的新型睡眠分期评分模型。为评估模型对标签偏差的鲁棒性，我们使用不同数据集进行训练与测试：睡眠心脏健康研究和 Sleep-EDF 数据集。在此条件下，SST 在睡眠分期评分中表现出具有竞争力的性能。此外，我们证明了选择性批次采样策略的有效性，其使重复训练的性能标准差得以降低。这些结果表明，SST 针对数据集中的标签偏差提取了有效的学习特征，且选择性批次采样策略有助于训练中的模型鲁棒性。
引用
@article{arxiv.2212.13919,
title = {Siamese Sleep Transformer For Robust Sleep Stage Scoring With Self-knowledge Distillation and Selective Batch Sampling},
author = {Heon-Gyu Kwak and Young-Seok Kweon and Gi-Hwan Shin},
journal= {arXiv preprint arXiv:2212.13919},
year = {2022}
}
备注
Submitted to 2023 11th IEEE International Winter Conference on Brain-Computer Interface