并非所有实体生而平等：面向超细粒度实体分类的长尾问题研究
计算与语言
2026-04-28 v3
摘要
由于能够从大型语料库中获取世界知识，预训练语言模型被广泛用于标签空间极大的超细粒度实体分类任务中。在这项工作中，我们通过提出一种新颖的启发式方法来近似预训练数据未知时实体的预训练分布，从而探索了 PLM 所获知识的局限性。然后，我们系统地证明了仅依赖 PLM 参数化知识的实体分类方法在处理预训练分布长尾部分的实体时存在显著困难，而知识注入方法可以弥补其中的一些不足。我们的研究结果表明，我们需要超越 PLM 来生成对不频繁实体表现良好的解决方案。
引用
@article{arxiv.2410.17355,
title = {All Entities are Not Created Equal: Examining the Long Tail for Ultra-Fine Entity Typing},
author = {Advait Deshmukh and Ashwin Umadi and Dananjay Srinivas and Maria Leonor Pacheco},
journal= {arXiv preprint arXiv:2410.17355},
year = {2026}
}