中文

固定预算蒙特卡洛树搜索中的$\varepsilon$-好动作识别

机器学习 2026-05-13 v1 机器学习

摘要

我们研究深度为2的最大-最小树中的固定预算最大-最小动作识别问题,这是蒙特卡洛树搜索的一个重要特例。学习器依次分配TT个样本到叶子节点,然后推荐一个其叶子最小值最大的子树。受近似规划的启发,我们专注于ε\varepsilon-好子树识别,其中任何最小值在最优最大-最小值ε\varepsilon范围内的子树都是可接受的。我们的主要贡献是一个ε\varepsilon无关算法:它不需要ε\varepsilon作为输入,但对每个有意义的ε\varepsilon都能实现实例相关的误差界。我们证明,误识别概率以exp(Θ~(T/H2(ε)))\exp(-\widetilde{\Theta}(T/H_2(\varepsilon)))的速度衰减,其中H2(ε)H_2(\varepsilon)同时捕捉了跨子树和子树内的间隙。当每个子树只有一个叶子时,问题退化为标准的固定预算最佳臂识别,我们的分析恢复(直至加速因子)了已知的关于减半类方法的ε\varepsilon-好保证,同时为Successive Rejects算法给出了一个新的ε\varepsilon-好保证。在下界方面,我们提供了互补的正反结果,表明最大-最小识别具有与标准KK臂赌博机不同的难度结构。据我们所知,这是最大-最小动作识别的首个可证明的固定预算算法保证。

关键词

引用

@article{arxiv.2605.11324,
  title  = {$\varepsilon$-Good Action Identification in Fixed-Budget Monte Carlo Tree Search},
  author = {Yinan Li and Tuan Nguyen and Kwang-Sung Jun},
  journal= {arXiv preprint arXiv:2605.11324},
  year   = {2026}
}