TASKED：基于 Transformer 的对抗学习通过自知识蒸馏利用可穿戴传感器进行人类活动识别
计算机视觉与模式识别
2022-12-09 v2 机器学习
摘要
基于可穿戴传感器的人类活动识别 (HAR) 已成为一个主要的研究领域，并应用于多种场景中。近年来，随着人机交互应用的发展，基于深度学习的方法在 HAR 领域取得了显著进展。然而，它们在标准卷积神经网络的处理过程中局限于局部邻域操作，且忽略了身体不同位置传感器之间的相关性。此外，由于训练与测试数据分布间的巨大差异以及受试者之间的行为差异，它们仍面临性能下降的重大挑战。在本工作中，我们提出了一种新颖的基于 Transformer 的对抗学习框架，通过自知识蒸馏 (TASKED) 利用可穿戴传感器进行人类活动识别，该框架考虑了个体传感器朝向以及空间和时间特征。所提方法能够利用对抗学习和最大均值差异 (MMD) 正则化从多受试者数据集中学习跨域嵌入特征表示，以对齐多个域上的数据分布。在提出的方法中，我们采用无教师的自知识蒸馏来提高训练过程的稳定性及人类活动识别的性能。实验结果表明，TASKED 不仅在四个真实世界公开 HAR 数据集（单独或组合）上优于最先进的方法，还有效地提升了受试者泛化能力。
引用
@article{arxiv.2209.09092,
title = {TASKED: Transformer-based Adversarial learning for human activity recognition using wearable sensors via Self-KnowledgE Distillation},
author = {Sungho Suh and Vitor Fortes Rey and Paul Lukowicz},
journal= {arXiv preprint arXiv:2209.09092},
year = {2022}
}
备注
Accepted for publication in Knowledge-Based Systems, Elsevier. arXiv admin note: substantial text overlap with arXiv:2110.12163