中文

破解卷积神经网络中单词识别的神经编码

计算机视觉与模式识别 2024-07-19 v2 神经元与认知

摘要

学习阅读对视觉系统提出了严峻挑战。多年的经验使其具备了区分高度相似字母并编码其相对位置的卓越能力,从而能够在极大的尺寸和绝对位置范围内不变地区分诸如 FORM 和 FROM 这样的单词。神经回路如何实现不变的单词识别仍属未知。在此,我们通过训练深度神经网络模型识别书面单词,然后分析专门负责阅读的单元如何跨网络不同层出现并运作,来探讨这一问题。随着读写能力的形成,一小部分单元变得专用于所学文字的单词识别,这类似于人脑的“视觉词形区”。我们表明,这些单元对特定字母身份及其与单词左侧或右侧空格的距离很敏感,从而充当“空格双字母组”。这些单元专门编码序数位置,并通过汇聚来自网络早期层的低频和高频检测器单元进行运作。所提出的神经编码提供了关于字母身份和位置信息如何被提取的机制洞察,使得不变的单词识别成为可能,并对阅读行为、错误模式以及阅读的神经生理学做出了预测。

关键词

引用

@article{arxiv.2403.06159,
  title  = {Cracking the neural code for word recognition in convolutional neural networks},
  author = {Aakash Agrawal and Stanislas Dehaene},
  journal= {arXiv preprint arXiv:2403.06159},
  year   = {2024}
}

备注

33 pages, 6 main figures, 4 supplementary figures