PaPaGei:面向光学生理信号的开放基础模型
机器学习
2025-02-06 v2 信号处理
摘要
光电容积脉搏波描记法(PPG)是监测生物信号和心血管健康的主要非侵入性技术,在临床环境和消费级可穿戴设备中均被广泛采用。虽然基于PPG信号训练的机器学习模型展现出了潜力,但它们往往特定于某一任务,且难以泛化。当前的研究受限于单设备数据集的使用、对域外泛化探索不足以及缺乏公开可用的模型,这阻碍了可复现性。为了解决这些局限性,我们提出了PaPaGei,首个用于PPG信号的开放基础模型。该模型在超过57,000小时的数据上进行预训练,包含来自公开可用数据集的2000万个无标注PPG片段。我们引入了一种新的表示学习方法,利用个体间PPG信号形态的领域知识,与传统对比学习方法相比,能够捕获更丰富的表示。我们在10个不同数据集的20项任务上评估了PaPaGei,涵盖心血管健康、睡眠障碍、妊娠监测和健康评估,并与最先进的时间序列基础模型和自监督学习基准进行了对比。我们的模型展现出卓越的性能,在至少14项任务中,分类和回归指标分别提高了6.3%和2.9%。值得注意的是,PaPaGei在实现这些结果的同时具有更高的数据和参数效率,优于大其70倍的模型。除了准确性之外,我们还考察了模型在不同肤色上的鲁棒性,为未来模型中的偏见评估建立了基准。PaPaGei既可以作为特征提取器,也可以作为多模态模型的编码器,为多模态健康监测开辟了新的机遇。
引用
@article{arxiv.2410.20542,
title = {PaPaGei: Open Foundation Models for Optical Physiological Signals},
author = {Arvind Pillai and Dimitris Spathis and Fahim Kawsar and Mohammad Malekzadeh},
journal= {arXiv preprint arXiv:2410.20542},
year = {2025}
}
备注
Accepted at ICLR 2025. Improved version with new experiments and results. Code and models: https://github.com/nokia-bell-labs/papagei-foundation-model