中文

使用语言建模识别与解释未对齐的人类概念表征

计算与语言 2024-03-12 v1

摘要

人们在世界中的经验是否塑造了概念表征与词汇语义,这是一个长期存在的问题。词汇联想、特征列举和相似度评分任务旨在解决这一问题,但需要对所识别出的潜在维度进行主观解释。在本研究中,我们引入了一种有监督的表征对齐方法,该方法 确定两组个体是否共享某一类别的相同基础,并 解释他们在哪些方面存在差异。在应用该方法时,我们表明先天性失明会在非模态和感官相关的动词领域引发概念重组,并且我们识别了相关的语义转变。我们首先对语言模型应用有监督的特征剪枝,以优化从词嵌入预测人类相似度判断的准确率。剪枝识别出一个用于优化预测视力正常个体判断的保留 GloVe 特征子集,以及另一个用于优化失明个体判断的子集。随后,线性探测分析通过学习从保留的 GloVe 特征到 65 个可解释语义维度的映射,解释了这些特征子集的潜在语义。我们将该方法应用于七个语义领域,包括与运动、视觉、触觉相关的动词,以及与知识获取相关的非模态动词。我们发现,失明个体将社会和认知含义更强烈地与运动相关动词或传达非言语发声的动词(例如,whimper, moan)联系起来。相反,对于非模态动词,他们表现出更为稀疏的信息。最后,对于某些动词,失明个体与视力正常个体的表征高度相似。本研究提出了一种研究词义个体差异的形式化方法,并首次展示了失明如何影响日常动词的概念表征。

关键词

引用

@article{arxiv.2403.06204,
  title  = {Identifying and interpreting non-aligned human conceptual representations using language modeling},
  author = {Wanqian Bao and Uri Hasson},
  journal= {arXiv preprint arXiv:2403.06204},
  year   = {2024}
}

备注

To appear at the ICLR 2024 Workshop on Representational Alignment (Re-Align)