层次树的阴影：调和神经代码中符号化与预测成分的和谐
计算与语言
2024-12-03 v1
摘要
自然语言语法可作为检验如何整合两种著名的不同框架的重要测试：符号化表征与连接主义神经网络。在 ROSE 最近提出的神经计算架构基础上，本文讨论了将神经代码中垂直(hierarchical)语法与线性和预测(horizontal)过程和谐的前景。我认为，前者可通过 ROSE 的高层次垂直短语结构表征来解释，而后者可通过对下层次的统计和感知推断进行调谐来解释水平形式的语言信息。其预测是，人工语言模型将对水平形态语法的认知神经科学贡献显著，但对层次结构的组合并结构贡献较小。我认为，这一视角有助于解决文献中许多当前的紧张关系。讨论将这两种神经代码集成的选项，特别强调预测编码机制如何作为符号振荡相位代码与线性语法方面统计特征的群体代码之间的接口。最后，我提供了一个神经符号数学模型，用于将符号表征注入编码词义统计特征的神经体制中。
引用
@article{arxiv.2412.01276,
title = {Shadow of the (Hierarchical) Tree: Reconciling Symbolic and Predictive Components of the Neural Code for Syntax},
author = {Elliot Murphy},
journal= {arXiv preprint arXiv:2412.01276},
year = {2024}
}