基于传感器的人体活动识别中自监督学习模型表征的解释、分析与探查
机器学习
2023-08-01 v2 人机交互
信号处理
摘要
近年来,自监督学习(SSL)框架已被广泛应用于基于传感器的人体活动识别(HAR),以在无数据标注的情况下学习深度表征。尽管 SSL 框架达到了几乎可与监督模型相媲美的性能,但关于解释 SSL 模型所学表征的研究仍然有限。然而,现代可解释性方法有助于揭示 SSL 与监督表征之间的差异:它们如何被学习、保留了输入数据的哪些属性,以及何时可以选择 SSL 而非监督训练。在本文中,我们旨在分析两个近期 SSL 框架(即 SimCLR 和 VICReg)的深度表征。具体而言,重点在于(i)比较监督模型与 SSL 模型对输入数据损坏的鲁棒性;(ii)使用显著图解释深度学习模型的预测,并突出预测各类活动主要使用的输入通道;(iii)利用探查方法探索 SSL 与监督表征中编码的属性。在两个单设备数据集(MobiAct 和 UCI-HAR)上的大量实验表明,与监督模型相比,自监督学习表征对未见数据中的噪声显著更具鲁棒性。相反,监督方法学到的特征在受试者间更为同质,并能更好地编码活动的本质。
引用
@article{arxiv.2304.07304,
title = {Explaining, Analyzing, and Probing Representations of Self-Supervised Learning Models for Sensor-based Human Activity Recognition},
author = {Bulat Khaertdinov and Stylianos Asteriadis},
journal= {arXiv preprint arXiv:2304.07304},
year = {2023}
}