为人工智能与法律领域基于 Transformer 的语言模型厘清秩序

Candida M. Greco; Andrea Tagarelli

doi:10.1007/s10506-023-09374-7

为人工智能与法律领域基于 Transformer 的语言模型厘清秩序

计算与语言 2024-02-06 v2 人工智能信息检索神经与进化计算物理与社会

作者: Candida M. Greco , Andrea Tagarelli

在 arXiv 上查看 ↗ PDF ↗ DOI ↗

摘要

基于 Transformer 的语言模型（TLMs）已被广泛认为是开发基于深度学习的、需自然语言处理与理解的问题及应用解决方案的尖端技术。如同其他文本领域，TLMs 确实推动了法律领域许多相关任务的 AI 方法达到最先进水平（SOTA）。尽管首个 Transformer 模型于约六年前提出，该技术以空前速度迅速进展，其中 BERT 及相关模型成为重要参考，在法律领域亦然。本文首次系统性地概述了面向法律领域 AI 驱动问题与任务的基于 TLM 的方法。一个主要目标是凸显该领域的研究进展，从而一方面理解 Transformer 如何促成 AI 在支撑法律流程中的成功，另一方面明晰当前局限与进一步研究发展的机遇。

关键词

基于 Transformer 的语言模型法律领域自然语言处理人工智能系统性概述 BERT 最先进水平

引用

@article{arxiv.2308.05502,
  title  = {Bringing order into the realm of Transformer-based language models for artificial intelligence and law},
  author = {Candida M. Greco and Andrea Tagarelli},
  journal= {arXiv preprint arXiv:2308.05502},
  year   = {2024}
}

备注

Please refer to the published version: Greco, C.M., Tagarelli, A. (2023) Bringing order into the realm of Transformer-based language models for artificial intelligence and law. Artif Intell Law, Springer Nature. November 2023. https://doi.org/10.1007/s10506-023-09374-7

为人工智能与法律领域基于 Transformer 的语言模型厘清秩序

摘要

关键词

引用

备注

相关论文