中文

深度卷积神经网络中目标导向注意的代价与收益

机器学习 2020-10-02 v3 人工智能 神经与进化计算

摘要

人们会部署自上而下的目标导向注意来完成任务,例如寻找丢失的钥匙。通过将视觉系统调谐到相关信息源,物体识别可以变得更高效(一种收益)并更偏向目标(一种潜在代价)。受分类模型中选择性注意的启发,我们开发了一种能够处理自然主义(摄影)刺激的目标导向注意机制。我们的注意机制可嵌入任何现有的深度卷积神经网络(DCNNs)中。DCNNs 中的处理阶段已被关联到腹侧视觉通路。据此,我们的注意机制引入了来自前额叶皮层(PFC)的自上而下影响以支持目标导向行为。类似于分类模型中的注意权重扭曲表征空间,我们在 DCNN 的中层引入一层注意权重,以放大或衰减活动来推进目标。我们使用摄影刺激评估了该注意机制,并改变注意目标。我们发现增强目标导向注意具有收益(提高命中率)和代价(提高误报率)。在中等水平下,对于涉及标准图像、混合图像以及为欺骗 DCNNs 而选择的天然对抗图像的任务,注意在仅适度增加偏差的情况下改善了敏感性(即提高了 dd^\prime)。这些结果表明,目标导向注意可以重新配置通用 DCNNs 以更好地适应当前任务目标,就像 PFC 调节腹侧通路上的活动一样。除了更简洁且与大脑一致外,中层注意方法在迁移学习上的表现优于标准的机器学习方法,即重新训练最终网络层以适应新任务。

关键词

引用

@article{arxiv.2002.02342,
  title  = {The Costs and Benefits of Goal-Directed Attention in Deep Convolutional Neural Networks},
  author = {Xiaoliang Luo and Brett D. Roads and Bradley C. Love},
  journal= {arXiv preprint arXiv:2002.02342},
  year   = {2020}
}