通过形式无关且丰富的句子意义表征建模语言皮层，揭示语义抽象性的惊人现象
计算与语言
2025-10-06 v1 机器学习
摘要
人类语言系统同时代表语言形式与意义，但意义表征的抽象性仍是争议话题。本文通过使用来自视觉和语言模型的表征来建模对句子作出的神经反应，以寻找语言皮层中意义抽象表征的线索。当我们生成对应句子的图像并提取视觉模型嵌入时，我们发现对多个生成图像进行聚合可更准确地预测语言皮层反应，有时甚至与大语言模型相当。类似地，对句子进行多次改写后的嵌入平均会在准确度上优于任何单个改写版本。进一步地，通过为改写文本添加可能隐含的上下文细节（例如将“我吃了一个煎饼”丰富为包括“枫糖浆”等细节）可进一步提升预测准确度，甚至超过基于原始句子嵌入的预测，这表明语言系统保持了比语言模型更丰富和更广泛的语义表征。综上，这些结果证明了语言皮层中存在高度抽象、形式无关的意义表征。
引用
@article{arxiv.2510.02354,
title = {Modeling the language cortex with form-independent and enriched representations of sentence meaning reveals remarkable semantic abstractness},
author = {Shreya Saha and Shurui Li and Greta Tuckute and Yuanning Li and Ru-Yuan Zhang and Leila Wehbe and Evelina Fedorenko and Meenakshi Khosla},
journal= {arXiv preprint arXiv:2510.02354},
year = {2025}
}