基于偏好的蒙特卡洛树搜索
人工智能
2018-09-20 v1
摘要
蒙特卡洛树搜索(MCTS)是解决序贯 anytime 问题的常用选择。然而,它依赖于数值反馈信号,而该信号可能难以定义。实时 MCTS 是一种变体,可能仅极少遇到具有显式外在奖励的状态。为处理此类情况,实验者必须以启发式的形式提供额外的数值反馈信号,从内在引导智能体。近期工作表明,在不同领域中底层结构是序数的而非数值的。因此,错误和有偏的启发式在所难免,尤其是在此类领域中。本文提出一种仅依赖定性反馈的 MCTS 变体,从而为 MCTS 开辟了新的应用。我们还发现迹象表明将绝对反馈转化为序数反馈可能是有益的。利用一个谜题领域,我们展示了仅接收定性反馈的基于偏好的 MCTS 变体,能够达到与获得定量反馈的常规 MCTS 基线相当的性能水平。
引用
@article{arxiv.1807.06286,
title = {Preference-Based Monte Carlo Tree Search},
author = {Tobias Joppen and Christian Wirth and Johannes Fürnkranz},
journal= {arXiv preprint arXiv:1807.06286},
year = {2018}
}
备注
To be published