利用上下文大语言模型理解法律文档
计算与语言
2023-07-20 v4
摘要
在印度等人口众多国家，待处理法律案件的增长已成为一个重大问题。开发有效的技术来处理和理解法律文档对于解决该问题极为有用。在本文中，我们介绍了用于 SemEval-2023 任务 6（理解法律文本，Modi 等人，2023）的系统。具体而言，我们首先开发了 Legal-BERT-HSLN 模型，该模型在句内和句间两个层面综合考虑上下文信息以预测修辞角色（子任务 A），然后训练了一个具有法律上下文且具备实体感知能力的 Legal-LUKE 模型，以识别法律实体（子任务 B）。我们的评估表明，所设计的模型比基线更准确，例如在子任务 B 中 F1 分数最高提升 15.0%。我们在任务排行榜上取得了显著成绩，例如微平均 F1 分数达到 0.834，并在子任务 A 的 27 支队伍中排名第 5。
引用
@article{arxiv.2303.12135,
title = {Understand Legal Documents with Contextualized Large Language Models},
author = {Xin Jin and Yuchen Wang},
journal= {arXiv preprint arXiv:2303.12135},
year = {2023}
}
备注
SemEval 2023