为现代史调整PromptORE：从16世纪西班牙君主制文档中提取信息
计算与语言
2024-06-04 v1 信息检索
机器学习
摘要
实体间的语义关系是关系抽取中广泛接受的方法。PromptORE（基于提示的开放关系抽取）旨在利用大型语言模型改进通用文档的关系抽取。然而，当应用于非英语的历史文档时，其效果较差。在本研究中，我们引入了一种PromptORE的改编版，用于从专业文档中抽取关系，即西班牙宗教裁判所审判的数字转录本。我们的方法涉及在将执行推理的数据上，使用预训练目标对Transformer模型进行微调。我们将此过程称为“偏置”。我们的偏置PromptORE解决了西班牙语文本中出现的复杂实体放置和性别歧视问题。我们通过提示工程解决了这些问题。我们使用编码器类模型评估了我们的方法，并通过专家评估验证了我们的发现。此外，我们使用二项分类基准评估了性能。我们的结果显示，与使用标准PromptORE的基线模型相比，我们的偏置PromptORE模型的准确率有显著提升——最高提升50%。
引用
@article{arxiv.2406.00027,
title = {Adapting PromptORE for Modern History: Information Extraction from Hispanic Monarchy Documents of the XVIth Century},
author = {Hèctor Loopez Hidalgo and Michel Boeglin and David Kahn and Josiane Mothe and Diego Ortiz and David Panzoli},
journal= {arXiv preprint arXiv:2406.00027},
year = {2024}
}