理解注意力：在心智与机器中
人工智能
2020-12-07 v1 机器学习
神经与进化计算
摘要
注意力是一个复杂而广泛的概念，在人工智能、认知科学、心理学、神经科学及相关领域的多个学科中均有研究。尽管这些领域中关于注意力的许多观点并无显著重叠，但存在一个共同主题，即对有限资源的自适应控制。在本文中，我们综述了人工神经网络（ANNs）中注意力的概念与变体。我们还从神经科学的角度讨论了注意力的起源，并与 ANNs 平行对照。我们建议将各种学科的观点立足于共同的概念框架，以对注意力进行系统分析，并朝向人工智能与神经科学中思想的可能统一，而非展开看似脱节的对话。
引用
@article{arxiv.2012.02659,
title = {Understanding Attention: In Minds and Machines},
author = {Shriraj P. Sawant and Shruti Singh},
journal= {arXiv preprint arXiv:2012.02659},
year = {2020}
}
备注
Accepted at NeurIPS 2020 Workshop: ML Retrospectives, Surveys & Meta-Analyses (ML-RSA)