基于特征分解与知识蒸馏的混合注意力模型用于血糖预测
机器学习
2026-04-16 v3 信号处理
摘要
连续血糖监测仪作为非处方商品的普及，为监测个人血糖水平、预测血糖轨迹并提供自动干预以预防因血糖控制不佳导致的毁灭性慢性并发症创造了独特机遇。然而，预测血糖水平具有挑战性，因为血糖会因饮食摄入、药物摄入、身体活动、睡眠和压力而持续变化。从多模态和不规则采样数据中准确预测长预测时域内的血糖水平尤为困难。此外，这些预测模型必须在边缘设备上实时运行，以提供即时干预。为应对这些挑战，我们提出 GlucoNet，一种基于 AI 的传感器系统，用于持续监测行为和生理健康并稳健预测血糖模式。GlucoNet 设计了一种基于特征分解的 Transformer 模型，融合患者的行为和生理数据，并利用数学模型将稀疏和不规则的患者数据（如饮食和药物摄入数据）转化为连续特征，从而便于与血糖数据更好地融合。鉴于血糖信号的非线性和非平稳特性，我们提出一种分解方法，从血糖信号中提取低频和高频分量，从而实现准确预测。为降低计算复杂度，我们还提出采用知识蒸馏来压缩 Transformer 模型。利用涉及 12 名 1 型糖尿病参与者的数据，GlucoNet 实现了均方根误差（RMSE）提升 60%、参数量减少 21%，并将 RMSE 和平均绝对误差（MAE）分别提高了 51% 和 57%。这些结果凸显了 GlucoNet 作为真实世界糖尿病预防和管理的紧凑可靠工具的潜力。
引用
@article{arxiv.2411.10703,
title = {Hybrid Attention Model Using Feature Decomposition and Knowledge Distillation for Glucose Forecasting},
author = {Ebrahim Farahmand and Shovito Barua Soumma and Nooshin Taheri Chatrudi and Hassan Ghasemzadeh},
journal= {arXiv preprint arXiv:2411.10703},
year = {2026}
}
备注
Final accepted version. IEEE TMC Journal