基于图的强化学习用于实时主动学习:以河流网络建模为例
机器学习
2020-12-09 v2 人工智能
摘要
先进机器学习模型的有效训练需要大量标注数据,而在科学问题中,由于收集标注数据需耗费大量人力与物力成本,此类数据往往稀缺。这给确定应在何时何地部署测量仪器(如原位传感器)以高效收集标注数据带来了挑战。该问题不同于传统的基于池的主动学习设定,因为标注决策必须在观测到按时间序列到来的输入数据后立即做出。本文提出一种实时主动学习方法,利用时空上下文信息在强化学习框架中选择具代表性的查询样本。为减少对大量训练数据的需求,我们进一步提出迁移由现有基于物理的模型所生成的仿真数据上学习到的策略。我们以特拉华河流域在有限标注数据收集预算下预测河流流量与水温为例,证明了所提方法的有效性。我们进一步研究所选样本的空间与时间分布,以验证该方法在时空上选择信息量丰富样本的能力。
引用
@article{arxiv.2010.14000,
title = {Graph-based Reinforcement Learning for Active Learning in Real Time: An Application in Modeling River Networks},
author = {Xiaowei Jia and Beiyu Lin and Jacob Zwart and Jeffrey Sadler and Alison Appling and Samantha Oliver and Jordan Read},
journal= {arXiv preprint arXiv:2010.14000},
year = {2020}
}