BioNCERE：面向生物医学文本关系抽取的非对比增强方法

生物医学领域最先进的关系抽取（RE）模型考虑使用分类微调BioBERT，但它们可能面临各向异性问题。对比学习方法可以减少这种各向异性现象，也有助于避免任何分类问题中的类别坍缩。在本文中，我们引入了一种新的训练方法，称为生物医学非对比关系抽取（BioNCERE），用于在训练中不使用任何命名实体标签以降低标注成本的关系抽取。BioNCERE使用迁移学习和非对比学习来避免完全坍缩或维度坍缩，并绕过过拟合。它通过两次利用迁移学习，分三个阶段解决RE问题。通过冻结所提流程中先前阶段学习的权重，并在第二阶段利用非对比学习，模型在没有任何命名实体知识的情况下预测关系。在SemMedDB上进行的实验表明，在不使用命名实体信息的情况下，其性能几乎达到了关系抽取的最先进水平。