基于小语言模型的高效个性化移动健康事件预测
计算与语言
2024-10-01 v1 人工智能
计算机与社会
机器学习
摘要
医疗保健监测对于早期发现、及时干预和持续管理健康状况至关重要，最终能改善个人的生活质量。最近的研究表明，大语言模型 (Large Language Models, LLMs) 在支持医疗保健任务方面表现出色。然而，现有的基于 LLM 的医疗保健解决方案通常依赖云端系统，这引发了隐私担忧并增加了个人信息泄露的风险。因此，人们越来越感兴趣在手机和可穿戴设备等本地设备上运行这些模型以保护用户隐私。小语言模型 (Small Language Models, SLMs) 是解决隐私和计算问题的潜在候选者，因为它们更高效且更适合本地部署。然而，SLMs 在医疗保健领域的性能尚未得到研究。本文考察了 SLMs 准确分析健康数据（如步数、卡路里、睡眠分钟数和其他生命统计）的能力，以评估个人的健康状况。我们的结果显示，拥有 11 亿参数、占用 4.31 GB 内存且延迟为 0.48 秒的 TinyLlama，与其他四个最先进的 (state-of-the-art, SOTA) SLMs 相比，在各种医疗保健应用中表现出最佳性能。我们的结果表明，SLMs 有可能部署在可穿戴或移动设备上用于实时健康监测，为高效且保护隐私的医疗保健提供实用解决方案。
引用
@article{arxiv.2409.18987,
title = {Efficient and Personalized Mobile Health Event Prediction via Small Language Models},
author = {Xin Wang and Ting Dang and Vassilis Kostakos and Hong Jia},
journal= {arXiv preprint arXiv:2409.18987},
year = {2024}
}
备注
6 pages, 3 figures