具有无界延迟的在线学习中的渐近收敛
机器学习
2016-09-08 v4 人工智能
概率论
摘要
我们研究通过观测较小计算的结果来预测那些运行代价过高的计算结果的问题。我们将此建模为一个带有延迟反馈的在线学习问题，其中延迟长度无界，我们主要在随机设定下研究该问题。我们表明，在此设定下，一致性通常不可能实现，且最优预测器的平均遗憾可能不趋于零。然而，仍有可能给出渐近收敛到贝叶斯最优预测的算法，方法是在预测器预测的特定的稀疏独立子序列上评估预测器。我们给出了一个实现此点的算法，该算法在良好行为下渐近收敛，并给出了关于收敛所需时间的极弱界限。随后我们将结果关联回确定性设定下预测大型计算的问题。
引用
@article{arxiv.1604.05280,
title = {Asymptotic Convergence in Online Learning with Unbounded Delays},
author = {Scott Garrabrant and Nate Soares and Jessica Taylor},
journal= {arXiv preprint arXiv:1604.05280},
year = {2016}
}