对问题答案的好奇：基于学习注意力的新颖性搜索

我们研究使用注意力神经网络层来学习一种“行为表征”，该表征可用于驱动新颖性搜索和基于好奇心的策略。该空间的结构面向回答特定分布的问题，这些问题以监督方式用于训练注意力神经网络。我们发现在一个二维探索任务中，该空间的结构成功编码了局部感知-运动依存关系，使得即便是一个无需强化学习或进化的贪婪式局部“执行最新颖动作”策略也能快速探索空间。我们还将此方法应用于一个高/低数字猜测游戏任务，发现依据所学注意力分布进行猜测可执行主动推断，并能比精确但被动的方法更快地发现正确数字。