解释AlphaGo：解读神经网络中的上下文效应
计算机视觉与模式识别
2019-01-09 v1
摘要
本文中，我们提出对预训练深度神经网络中编码的上下文效应进行解耦与解释。我们使用所提方法解释alphaGo Zero模型的博弈策略。以往研究仅从全局视角可视化对应于网络输出或神经激活的图像外观，与之不同，本研究旨在阐明某一输入单元（维度）如何与其他单元（维度）协作以构成神经网络的推理模式，从而对网络输出产生贡献。针对特定输入单元的局部上下文效应分析在实际应用中具有特殊价值。解释alphaGo Zero模型的逻辑即是一个典型应用。在实验中，我们的方法成功解耦了围棋对弈中每一步棋背后的原理。
引用
@article{arxiv.1901.02184,
title = {Explaining AlphaGo: Interpreting Contextual Effects in Neural Networks},
author = {Zenan Ling and Haotian Ma and Yu Yang and Robert C. Qiu and Song-Chun Zhu and Quanshi Zhang},
journal= {arXiv preprint arXiv:1901.02184},
year = {2019}
}