可穿戴基础模型的规模化
机器学习
2024-10-18 v1 人工智能
人机交互
摘要
可穿戴传感器因多种健康跟踪功能而日益普及。由日常生活中持续且纵向测量产生的大量数据虽庞大，但要从这些观察中提取科学和可操作的见解仍非易事。以生成式建模中大型神经网络从海量文本、图像、视频或音频数据中学习强大表征的实证成功为灵感，我们探讨了传感器基础模型在计算、数据和模型规模方面的比例尺化特征。我们使用来自165,000多人的心率、心率变异性、皮肤电反应、加速度计、皮肤温度和高度计等每分钟数据，累计达4000万小时，构建了LSM——该模型基于目前规模最大、感应器官种类最丰富的可穿戴信号数据集。我们的结果确立了LSM在插值、插值和外推任务中的比例尺化规律，涵盖时间和感应器官。此外，我们展示了LSM如何实现对运动和活动识别等任务的样本高效下游学习。
引用
@article{arxiv.2410.13638,
title = {Scaling Wearable Foundation Models},
author = {Girish Narayanswamy and Xin Liu and Kumar Ayush and Yuzhe Yang and Xuhai Xu and Shun Liao and Jake Garrison and Shyam Tailor and Jake Sunshine and Yun Liu and Tim Althoff and Shrikanth Narayanan and Pushmeet Kohli and Jiening Zhan and Mark Malhotra and Shwetak Patel and Samy Abdel-Ghaffar and Daniel McDuff},
journal= {arXiv preprint arXiv:2410.13638},
year = {2024}
}