利用 Transformer 进行星际争霸宏观管理预测

受近期 Transformer 在自然语言处理与计算机视觉应用中成功的启发，我们引入一种基于 Transformer 的神经网络架构用于星际争霸 II（SC2）的两个关键宏观管理任务：全局状态与建造顺序预测。与具有近因偏差的循环神经网络不同，Transformer 能够捕捉极长时间跨度中的模式，使其非常适于整局游戏分析。我们的模型利用 MSC（星际争霸 II 中的宏观管理）数据集，并在预测全局状态与建造顺序上以多时间跨度的平均准确率衡量优于表现最佳的门控循环单元（GRU）架构。我们给出了对所提架构的消融研究以支持我们的设计决策。Transformer 的一个关键优势是其良好的泛化能力，我们展示了当用于迁移学习设定时我们的模型取得更佳准确率：在一个种族对抗（如人族 vs. 神族）上训练的模型被迁移至另一对抗。我们认为 Transformer 对长局游戏的建模能力、并行化潜力与泛化性能使其成为星际争霸智能体的优异选择。