中文

通过棋盘游戏中的 Transformer 桥接局部与全局知识

机器学习 2025-07-21 v2 人工智能

摘要

虽然AlphaZero在棋盘游戏中取得了超人水平的表现,但近期研究揭示了其在处理需要全盘理解的情况下的局限性,例如在围棋中识别长序列模式。为解决这一挑战,我们提出ResTNet,一种交错残差块和Transformer块以桥接局部与全局知识的网络。ResTNet在多个棋盘游戏中提升了棋力,在9x9围棋中获胜率从54.6%提升至60.8%,在19x19围棋中从53.6%提升至60.9%,在19x19 Hex中从50.4%提升至58.0%。此外,ResTNet有效处理全局信息并解决19x19围棋中的两种长序列模式,包括圆形模式和跳跃模式。它将圆形模式识别的均方误差从2.58降低至1.07,将对抗程序的攻击概率从70.44%降低至23.91%。ResTNet还将跳跃模式识别准确率从59.15%提高至80.01%。通过可视化注意力图,我们展示ResTNet在围棋和Hex中捕获关键游戏概念,为AlphaZero的决策过程提供了见解。总体而言,ResTNet展示了一种将局部与全局知识集成的有前景的ethods,为在棋盘游戏中更有效的AlphaZero算法铺平了道路。我们的代码可在 https://rlg.iis.sinica.edu.tw/papers/restnet 查阅。

关键词

引用

@article{arxiv.2410.05347,
  title  = {Bridging Local and Global Knowledge via Transformer in Board Games},
  author = {Yan-Ru Ju and Tai-Lin Wu and Chung-Chin Shih and Ti-Rong Wu},
  journal= {arXiv preprint arXiv:2410.05347},
  year   = {2025}
}

备注

Accepted by the Thirty-Fourth International Joint Conferences on Artificial Intelligence (IJCAI-25)