语境化感觉运动规范：歧义英语词在语境中的多维度感觉运动强度度量
计算与语言
2022-03-14 v1
摘要
大多数大语言模型仅以语言输入进行训练，而人类似乎将词的理解扎根于感觉运动经验。一个自然的解决方案是用人类对词的感觉运动联想（例如 Lancaster Sensorimotor Norms，兰卡斯特感觉运动规范）来增强 LM 表征，但这带来了另一挑战：大多数词具有歧义，孤立词的判断无法解释这种意义多样性（例如“wooden table”与“data table”）。我们试图通过构建一个包含 112 个英语词的语境化感觉运动判断新词汇资源来解决此问题，每个词在四种不同语境下被评分（共 448 个句子）。我们表明，这些评分编码了与 Lancaster Sensorimotor Norms 重叠但不同的信息，并且它们还能在 BERT 衍生度量之外预测其他感兴趣的度量（例如相关性）。除阐明理论问题外，我们建议这些评分可作为构建扎根语言模型研究者的“挑战集”使用。
引用
@article{arxiv.2203.05648,
title = {Contextualized Sensorimotor Norms: multi-dimensional measures of sensorimotor strength for ambiguous English words, in context},
author = {Sean Trott and Benjamin Bergen},
journal= {arXiv preprint arXiv:2203.05648},
year = {2022}
}