评估法律合同分类任务中定制化与通用变换器模型的表现
计算与语言
2026-05-25 v2
摘要
尽管法律自然语言处理领域取得了进展，但尚无对针对法律任务定制化的变换器模型（本文称为“法律特定”模型）在合同分类任务上的全面评估。为填补这一空白，我们对 13 个法律特定变换器模型在 3 项英文合同分类任务上进行评估，并将其与 9 个通用模型进行比较。结果表明，法律特定模型在需要精细法律理解的任务上始终优于通用模型，还能帮助减少不平衡数据集中少数类别的误分类。Legal-BERT 和 Contracts-BERT 在两项三项任务中建立了新的 SOTA，尽管其参数数量仅为最佳通用模型的 69%。我们还识别出 CaseLaw-BERT 和 LexLM 作为合同分类的强大基线。我们的结果凸显了通用模型的不足，强调在法律应用中确实需要领域特定的定制化。
关键词
引用
@article{arxiv.2508.07849,
title = {Evaluating Customized vs. Generalist Transformer-based Models for Legal Contract Classification},
author = {Amrita Singh and H. Suhan Karaca and Aditya Joshi and Hye-young Paik and Jiaojiao Jiang},
journal= {arXiv preprint arXiv:2508.07849},
year = {2026}
}
备注
Accepted to Customizable NLP at ACL 2026