GUIDE:面向1型糖尿病行为干预的强化学习决策支持
机器学习
2026-04-02 v1
摘要
1型糖尿病(T1D)管理需要持续调整胰岛素和生活方式行为以将血糖维持在安全目标范围内。尽管自动化胰岛素输注(AID)系统已改善了血糖控制结果,许多患者仍未能达到推荐的临床目标,需要新的方法来改善T1D患者的血糖控制。虽然强化学习(RL)已被作为一种有前景的方法加以利用,但当前的RL方法主要聚焦于仅胰岛素治疗,并未提供血糖控制的行为建议。为填补这一空白,我们提出了GUIDE,一个RL决策支持框架,旨在通过提供行为建议来预防异常血糖事件,以补充AID技术。GUIDE生成由干预类型、幅度和时机定义的结构化动作,包括推注胰岛素给药和碳水化合物摄入事件。GUIDE集成了基于真实世界连续血糖监测数据训练的特定患者血糖水平预测器,并在一个统一环境中支持离线与在线RL算法。我们在25名T1D患者中评估了多种离线策略和在线策略方法,使用标准化血糖指标。在所评估的方法中,CQL-BC算法展现出最高的平均时间在目标范围内,达到85.49%,同时保持低低血糖暴露。行为相似性分析进一步表明,学习到的CQL-BC策略保留了患者行为模式的关键结构特征,在各受试者间实现了0.87±0.09的平均余弦相似度。这些结果表明,结合结构化行为动作空间的保守离线RL可以为个性化糖尿病管理提供具有临床意义且行为合理的决策支持。
引用
@article{arxiv.2604.00385,
title = {GUIDE: Reinforcement Learning for Behavioral Action Support in Type 1 Diabetes},
author = {Saman Khamesian and Sri Harini Balaji and Di Yang Shi and Stephanie M. Carpenter and Daniel E. Rivera and W. Bradley Knox and Peter Stone and Hassan Ghasemzadeh},
journal= {arXiv preprint arXiv:2604.00385},
year = {2026}
}