LSM-2：来自不完整可穿戴传感器数据的学习
机器学习
2025-06-06 v1
摘要
Foundation 模型是最近机器学习进步的基石，其主要依赖于完整且结构良好的数据。可穿戴传感器数据常常存在显著缺失，构成自监督学习（SSL）模型处理不完整数据输入的重大挑战。本文介绍了第二代大型传感器模型（LSM-2），其采用自适应继承遮蔽（AIM），这是一种 novel SSL 方法，可直接从不完整数据中学习鲁棒表征，而无需显式插值。AIM 的核心新颖性在于使用可学习的遮蔽标记（mask tokens）来建模既存（“继承”）和人工引入的缺失情况，使其在推理时能够稳健处理碎片化的真实世界数据。我们在由 4000 万小时连续多天的多模态传感器数据构成的大型数据集上进行预训练，LSM-2 配合 AIM 在包括分类、回归和生成建模在内的广泛任务上实现了最佳性能。此外，LSM-2 配合 AIM 显示出优异的扩展性能，关键的是即使在针对性缺失情景下也能保持高性能，这些情景反映了临床上具有解释力的模式，例如夜间生物信号对高血压诊断价值的体现。这使得 AIM 更可靠地适用于真实世界的可穿戴数据应用。
关键词
引用
@article{arxiv.2506.05321,
title = {LSM-2: Learning from Incomplete Wearable Sensor Data},
author = {Maxwell A. Xu and Girish Narayanswamy and Kumar Ayush and Dimitris Spathis and Shun Liao and Shyam A. Tailor and Ahmed Metwally and A. Ali Heydari and Yuwei Zhang and Jake Garrison and Samy Abdel-Ghaffar and Xuhai Xu and Ken Gu and Jacob Sunshine and Ming-Zher Poh and Yun Liu and Tim Althoff and Shrikanth Narayanan and Pushmeet Kohli and Mark Malhotra and Shwetak Patel and Yuzhe Yang and James M. Rehg and Xin Liu and Daniel McDuff},
journal= {arXiv preprint arXiv:2506.05321},
year = {2025}
}
备注
Xu and Narayanswamy are co-first authors. McDuff and Liu are co-last authors