Time2Lang：将时间序列基础模型与大语言模型桥接，用于健康感知Beyond Prompting
机器学习
2025-04-30 v3 人机交互
摘要
大型语言模型 (LLM) 在结合行为感知数据时显示出用于健康的潜力。传统方法将传感器数据转换为文本提示，但该过程容易出错、计算昂贵且需要领域专业知识。特别是处理扩展时间序列数据时，这些挑战尤为突出。虽然最近涌现出的时间序列基础模型 (TFM) 作为从时序数据中学习表示的强大工具，但在 TFM 与 LLM 之间架起桥梁仍具有挑战性。本文提出了 Time2Lang，一个直接将 TFM 输出映射到 LLM 表示的框架，而无需中间文本转换。我们的 method 首先在合成数据上进行训练，使用周期性预测作为预文本任务，然后在心理健康分类任务上进行评估。我们在两个纵向可穿戴和移动感知数据集上验证了 Time2Lang：使用步数数据进行每日抑郁预测（来自 256 名参与者的 17,251 天）以及基于对话时长的 flourishing 分类（46 名参与者为期 10 周）。Time2Lang 能在输入长度不变的情况下保持接近恒定的推理时间，这与传统的提示方法不同。生成的嵌入保留了关键时间序列特征，如自相关。我们的结果表明，TFM 与 LLM 可以在最小化信息损失的同时有效集成，并实现性能在不同建模范式之间的迁移。到我们知识为止，我们是首个为健康领域集成 TFM 与 LLM 的研究，从而为未来研究结合通用大模型解决复杂医疗任务奠定了基础。
引用
@article{arxiv.2502.07608,
title = {Time2Lang: Bridging Time-Series Foundation Models and Large Language Models for Health Sensing Beyond Prompting},
author = {Arvind Pillai and Dimitris Spathis and Subigya Nepal and Amanda C Collins and Daniel M Mackin and Michael V Heinz and Tess Z Griffin and Nicholas C Jacobson and Andrew Campbell},
journal= {arXiv preprint arXiv:2502.07608},
year = {2025}
}
备注
Accepted to CHIL 2025. Code and models: https://github.com/arvind1609/time2lang