循环视觉 Transformer 显示灵长类动物视觉注意力的特征
计算机视觉与模式识别
2025-02-18 v1 人工智能
神经元与认知
摘要
注意力是生物和人工智能中都至关重要的，但关于动物注意力和 AI 自注意力的研究仍大多彼此独立。我们提出了一种循环视觉 Transformer（Recurrent ViT），将自注意力与循环记忆相结合，使当前输入和存储的信息都能指导注意力分配。仅通过稀疃奖励反馈训练的循环视觉 Transformer 在以空间引导的方向变化检测任务为训练范式（该范式用于灵长类动物研究），展现出类似灵长类动物的注意力特征，包括对受提示刺激的准确率提升和响应速度加快，这些特征随提示有效性而扩展。分析自注意力图后发现，显示出动态的空间优先级分配，并在预期变化前进行重新激活；针对性扰动导致的性能变化类似于灵长类前额眼球野和上枕核中所观察到的现象。这些发现表明，将循环反馈纳入自注意力机制可以捕捉到灵长类视觉注意力的关键方面。
引用
@article{arxiv.2502.10955,
title = {A recurrent vision transformer shows signatures of primate visual attention},
author = {Jonathan Morgan and Badr Albanna and James P. Herman},
journal= {arXiv preprint arXiv:2502.10955},
year = {2025}
}