面向生命科学领域偏移的基于度量学习的命名实体识别

命名实体识别是信息抽取（IE）的关键组成部分，特别是在生物医学和化学等科学领域，大型语言模型（LLMs），例如 ChatGPT，表现不佳。我们研究了迁移学习的适用性，旨在增强在生物医学领域（源域）训练的命名实体识别模型，以用于化学领域（目标域）。在少样本学习设置下训练此类模型的常见做法是，先在带标签的源数据上预训练模型，然后在少量带标签的目标样本上微调。在我们的实验中，我们观察到此类模型容易将源实体（在文本中经常出现）误标为目标实体。为缓解此问题，我们提出了一种模型，将知识从源域迁移到目标域，同时将源实体和目标实体投影到特征空间的不同区域。这降低了将源实体误标为目标实体的风险。我们的模型包含两个阶段：1）源域中的实体分组，利用来自标注事件的知识建立实体间的关系；2）目标域中的实体判别，依赖伪标签和对比学习增强两个域中实体间的判别能力。我们在三个源数据集和三个目标数据集上进行了广泛实验，证明我们的方法比基线绝对值最高提升 5%。