面向个人健康的大型语言模型
人工智能
2024-06-11 v1 计算与语言
摘要
在健康领域，大型语言模型（LLM）的研究主要聚焦于临床任务。然而，移动和可穿戴设备因较少被集成到此类任务中，提供了丰富的、长时间序列的个人健康监测数据。本文提出个人健康大型语言模型（PH-LLM），它是从 Gemini 模型微调而来，用于理解和推理来自个人健康数据的数值时间序列。我们创建并精选了三个数据集，用于测试 1）从睡眠模式、身体活动和生理反应中生产个性化见解和建议，2）专家领域知识，以及 3）预测自报告的睡眠结果。针对第一个任务，我们设计了 857 个案例研究，与领域专家合作，以评估睡眠和健身中的真实世界情景。通过对领域特定评估标准的全面评估，我们发现 Gemini Ultra 1.0 和 PH-LLM 在健身方面与专家表现无显著差异，尽管在睡眠方面仍由专家占优势，但对 PH-LLM 的微调显著提高了在使用相关领域知识和个性化信息方面的能力。我们使用多选题睡眠医学和健身考试评估 PH-LLM 的领域知识。PH-LLM 在睡眠方面得分 79%，在健身方面得分 88%，均超过了人类专家样本的平均得分。最后，我们训练 PH-LLM 预测来自可穿戴数据的文本和多模态编码表示的自报告睡眠质量结果，证明多模态编码是匹配专用判别模型性能的必要条件。尽管在安全关键的个人健康领域仍需进一步的开发和评估，但这些结果表明了 Gemini 模型的广泛知识和能力，以及在个人健康应用中对生理数据进行情境化处理的益处，如 PH-LLM 所示。
引用
@article{arxiv.2406.06474,
title = {Towards a Personal Health Large Language Model},
author = {Justin Cosentino and Anastasiya Belyaeva and Xin Liu and Nicholas A. Furlotte and Zhun Yang and Chace Lee and Erik Schenck and Yojan Patel and Jian Cui and Logan Douglas Schneider and Robby Bryant and Ryan G. Gomes and Allen Jiang and Roy Lee and Yun Liu and Javier Perez and Jameson K. Rogers and Cathy Speed and Shyam Tailor and Megan Walker and Jeffrey Yu and Tim Althoff and Conor Heneghan and John Hernandez and Mark Malhotra and Leor Stern and Yossi Matias and Greg S. Corrado and Shwetak Patel and Shravya Shetty and Jiening Zhan and Shruthi Prabhakara and Daniel McDuff and Cory Y. McLean},
journal= {arXiv preprint arXiv:2406.06474},
year = {2024}
}
备注
72 pages