中文

致向概念:基于情境化语言模型的概念诱导

计算与语言 2025-11-10 v3

摘要

多义性和同义性是词汇歧义中两个关键且相互关联的方面。虽然这两种现象在词汇资源中广泛记录并在 NLP 中得到广泛研究,已有专门系统处理,但在实际问题中往往被独立考虑。许多处理多义性的任务(如词义消歧或词义诱导)强调词语含义的作用,而同义性的研究则根植于概念研究,即跨词汇表共享的含义。在本文中,我们提出概念诱导(Concept Induction)这一无监督任务,通过从数据中学习软聚类来定义一组概念。该任务概括了词义诱导。我们提出一种双层方法,利用局部的以词义为中心的视角和全局的跨词汇表视角来诱导概念。我们在 SemCor 的标注数据上评估所得聚类,取得良好性能(BCubed F1 超过 0.60)。我们发现局部和全局层次在本 setting 下相互促进,既能诱导概念,也能诱导词义。最后,我们创建表示所诱导概念的静态嵌入,并在词语上下文任务中使用,取得与 SOTA 相当的性能。

关键词

引用

@article{arxiv.2406.20054,
  title  = {To Word Senses and Beyond: Inducing Concepts with Contextualized Language Models},
  author = {Bastien Liétard and Pascal Denis and Mikaela Keller},
  journal= {arXiv preprint arXiv:2406.20054},
  year   = {2025}
}

备注

Published in EMNLP 2024 main conference proceedings