一种用于人类活动识别中自监督掩码重建的改进掩码策略
人机交互
2023-12-08 v1
摘要
掩码重建是自监督学习的一项基本代理任务，使模型能够通过从大量无标签数据重建被掩码片段来提升其特征提取能力。在人类活动识别中，该代理任务采用了以时间维度为中心的掩码策略。然而，此掩码策略未能充分利用可穿戴传感器数据的固有特性，且忽略了通道间的信息耦合，从而限制了其作为强大代理任务的潜力。为克服这些局限，我们提出一种称为通道掩码（Channel Masking）的新颖掩码策略。它沿通道维度对传感器数据进行掩码，从而迫使编码器在执行掩码重建任务时提取通道相关特征。此外，通道掩码可与沿时间维度的掩码策略无缝结合，促使自监督模型在时间维与通道维两个维度上承担掩码重建任务。集成后的掩码策略命名为时间-通道掩码（Time-Channel Masking）与跨度-通道掩码（Span-Channel Masking）。最后，我们优化重建损失函数以纳入时间与通道两个维度的重建损失。我们在三个公开数据集上评估所提掩码策略，实验结果表明所提策略在自监督与半监督场景下均优于先前策略。
引用
@article{arxiv.2312.04147,
title = {An Improved Masking Strategy for Self-supervised Masked Reconstruction in Human Activity Recognition},
author = {Jinqiang Wang and Tao Zhu and Huansheng Ning},
journal= {arXiv preprint arXiv:2312.04147},
year = {2023}
}