中文

用于基于在线Actor-Critic强化学习的mHealth干预的有效热启动

机器学习 2017-05-23 v3 人工智能

摘要

在线强化学习(RL)在个性化移动健康(mHealth)干预中日益流行。它能够根据用户持续的状态和变化的需求来个性化干预的类型和剂量。然而,在在线学习开始时,通常样本过少无法支持RL更新,导致性能不佳。在线学习算法良好性能的延迟在mHealth中尤其有害,因为用户往往很快便不再使用mHealth应用。为解决此问题,我们提出一种聚焦于有效热启动的新在线RL方法。主要思想是充分利用先前研究中积累的数据和获得的决策规则。因此,我们的方法能在在线学习之初极大丰富数据规模。这种情况加速了新用户的在线学习过程,使其不仅能在在线学习开始时,而且能在整个在线学习过程中取得良好性能。此外,我们利用先前研究获得的决策规则来初始化新用户在线RL模型中的参数。这为所提在线RL算法提供了良好的初始化。实验结果表明,与最先进的方法相比,我们的方法取得了可观的改进。

关键词

引用

@article{arxiv.1704.04866,
  title  = {Effective Warm Start for the Online Actor-Critic Reinforcement Learning based mHealth Intervention},
  author = {Feiyun Zhu and Peng Liao},
  journal= {arXiv preprint arXiv:1704.04866},
  year   = {2017}
}