面向西班牙语歧义词的情境化表示评估：一个新的词汇资源与实证分析

词汇歧义——即单个词形形式取由不同、情境相关意义——是比较不同语言模型 (LMs) 能力的有用工具，以形成相同刺激物的不同情境化表示。鲜有研究系统比较超越英语之外的语言的情境化词嵌入。在本文中，我们评估西班牙语歧义名词在情境中的语义表示，针对一套西班牙语单语和多语 BERT 模型。我们开发了一个新的小型对偶句数据集，用以引发目标歧义名词的相同或不同意义。在预先登记的研究中，我们为每个句子对收集情境化人类相关性判断。我们发现，各种 BERT 模型的情境化语义表示捕获了部分人类判断的方差，但未能达到人类基准。在探索性工作中，我们发现性能随模型大小而提升。我们还识别出目标名词在给定 LM 家族体系结构遍历中发生歧义消解的刻面轨迹，这些轨迹在英语中部分被复制。我们贡献了 (1) 一个带有人类相关性规范的受控西班牙语句子刺激数据集，以及 (2) 对 LM 规格（体系结构、训练协议）对情境化嵌入影响的不断完善的理解。