睡眠基础模型的预训练与规模化：OSF框架
机器学习
2026-03-03 v1 人工智能
摘要
多导睡眠图（PSG）是睡眠评估的黄金标准，但因录制设备和队列之间的差异性大，存在显著的异质性。目前已有研究致力于构建面向睡眠生理学的通用基础模型（FM），但缺乏对预训练过程和规模化模式的深入理解，以致于更通用的睡眠FM。为填补这一空白，我们构建了一个包含166,500小时睡眠录音的大型语料库，来自九个公开数据源，并建立SleepBench，一个全面且完全开源的基准测试框架。利用SleepBench，我们系统评估了四类自监督预训练目标，发现三个关键发现：（1）现有FM在推理时对缺失通道缺乏泛化能力；（2）通道不变特征学习是预训练的关键；（3）规模化样本量、模型容量和多源数据混合均一致提升下游任务性能。通过增强的预训练和规模化配方，我们引入OSF，一套睡眠FM，在九个数据集上完成多样化睡眠和疾病预测任务，实现最先进的性能。进一步分析OSF也揭示了样本效率、层次性聚合和跨数据集规模化的有趣属性。
关键词
引用
@article{arxiv.2603.00190,
title = {OSF: On Pre-training and Scaling of Sleep Foundation Models},
author = {Zitao Shuai and Zongzhe Xu and David Yang and Wei Wang and Yuzhe Yang},
journal= {arXiv preprint arXiv:2603.00190},
year = {2026}
}