AlphaZero 中棋类知识的习得
人工智能
2022-12-28 v3 机器学习
摘要
诸如 AlphaZero 这类复杂神经网络智能体学到了什么？这一问题兼具科学意义与实用价值。如果强大神经网络的表征与人类概念毫无相似之处，我们理解其决策忠实解释的能力将受限，最终制约我们在神经网络可解释性上所能取得的成就。本工作中，我们提供证据表明，AlphaZero 神经网络在象棋训练过程中习得了人类知识。通过探测广泛的人类象棋概念，我们展示了这些概念在 AlphaZero 网络中被表征的时间与位置。我们还提供了聚焦于开局的行为分析，包括来自国际象棋特级大师 Vladimir Kramnik 的定性分析。最后，我们对 AlphaZero 表征的低层细节进行了初步探究，并将所得的行为与表征分析在线公开。
引用
@article{arxiv.2111.09259,
title = {Acquisition of Chess Knowledge in AlphaZero},
author = {Thomas McGrath and Andrei Kapishnikov and Nenad Tomašev and Adam Pearce and Demis Hassabis and Been Kim and Ulrich Paquet and Vladimir Kramnik},
journal= {arXiv preprint arXiv:2111.09259},
year = {2022}
}
备注
69 pages, 44 figures