同时行动博弈中 Monte Carlo 树搜索的 Hannan 一致性选择分析
计算机科学与博弈论
2015-09-02 v1
摘要
Monte Carlo 树搜索(MCTS)近期已被成功用于创建在不完美信息博弈中的策略。尽管其广受欢迎,但目前尚无理论结果能保证其在此类博弈中收敛到一个明确定义的解,如 Nash 均衡。我们通过分析 MCTS 在具有同时行动但除此之外具有完美信息的零和扩展型博弈类别中的表现,部分填补了这一空白。由于缺乏关于对手同时行动的信息,最优策略本身可能就需要随机化。我们对这些算法收敛到 Nash 均衡的速度和质量进行了理论和实证研究。我们主要表明,在经过微小的技术修改后,基于任意(近似)Hannan 一致性选择函数的 MCTS 总是收敛到(近似)子博弈完美 Nash 均衡。若不进行这些修改,Hannan 一致性不足以保证这种收敛,且选择函数必须满足额外的性质,这些性质在经验上对于最常见的 Hannan 一致性算法成立。
引用
@article{arxiv.1509.00149,
title = {Analysis of Hannan Consistent Selection for Monte Carlo Tree Search in Simultaneous Move Games},
author = {Vojtěch Kovařík and Viliam Lisý},
journal= {arXiv preprint arXiv:1509.00149},
year = {2015}
}