自解释智能体的神经进化
神经与进化计算
2020-04-03 v2 计算机视觉与模式识别
机器学习
摘要
不注意盲视是使人错过显眼之物的心理现象。它是感知中选择性注意的后果，使我们能专注于世界中重要部分而不被无关细节干扰。受选择性注意启发，我们研究通过自注意瓶颈透镜感知世界的人工智能体性质。通过限制仅能访问一小部分视觉输入，我们表明其策略在像素空间可直接解释。我们发现神经进化适于训练基于视觉的强化学习(RL)任务的自注意架构，使我们能融入包含离散、不可微操作的模块，这些对智能体有用。我们认为自注意具有与间接编码类似的性质，即从少量键-查询参数生成大型隐式权重矩阵，从而让我们的智能体以比现有方法至少少1000倍的参数解决具挑战性的基于视觉的任务。由于我们的智能体仅注意任务关键视觉提示，它们能泛化到任务无关元素被修改的环境，而常规方法失效。结果视频与源代码见https://attentionagent.github.io/
引用
@article{arxiv.2003.08165,
title = {Neuroevolution of Self-Interpretable Agents},
author = {Yujin Tang and Duong Nguyen and David Ha},
journal= {arXiv preprint arXiv:2003.08165},
year = {2020}
}
备注
To appear at the Genetic and Evolutionary Computation Conference (GECCO 2020) as a full paper