CPTuning：面向生成式关系抽取的对比提示调优
计算与语言
2025-01-07 v1 人工智能
摘要
生成式关系抽取（RE）通常首先将RE重新表述为语言建模问题，利用预训练语言模型（PLM）轻松处理，然后使用有监督的交叉熵损失微调PLM。尽管取得了有希望的性能，现有方法假设每对实体之间只有一个确定性关系，而不考虑实际场景中可能存在多个有效关系，即实体对重叠，导致其应用受限。为了解决这个问题，我们引入了一种新的对比提示调优方法CPTuning，它学习将两个上下文实体之间的候选关系与高于或低于阈值的概率质量相关联，对应于该关系是否存在。除了学习模式，CPTuning还将RE组织为口头化关系生成任务，并使用Trie约束解码确保模型生成有效关系。它在推理时自适应地挑选出具有高估计似然的生成候选关系，从而实现多关系抽取。我们在四个广泛使用的数据集上进行了大量实验来验证我们的方法。结果表明，使用CPTuning微调的T5-large在单关系和多关系抽取方面均显著优于先前方法。
引用
@article{arxiv.2501.02196,
title = {CPTuning: Contrastive Prompt Tuning for Generative Relation Extraction},
author = {Jiaxin Duan and Fengyu Lu and Junfei Liu},
journal= {arXiv preprint arXiv:2501.02196},
year = {2025}
}