ChatGPT 能否像律师一样运用 IRAC 方法分析法律场景并执行推理?
计算与语言
2024-01-09 v2
摘要
大型语言模型(LLM),如 ChatGPT,因其涌现出的处理多种法律任务的能力,近来在法律领域备受关注。然而,LLM 是否能够像律师一样分析法律案件并执行推理仍属未知。因此,我们构建了一个新颖语料库,包含涉及马来西亚合同法与澳大利亚受养子女社会法的场景。应用 ChatGPT 使用该语料库并基于 IRAC 方法执行分析,IRAC 是法律从业者广泛用于组织法律分析的框架。语料库中每个场景均以半结构化格式标注了完整的 IRAC 分析,以便机器与法律从业者均能解释并理解这些标注。此外,我们进行了首次针对 ChatGPT 的 IRAC 分析实证评估,以了解其与法律从业者分析的吻合程度。我们的实验结果揭示了未来可能的研究方向,以提升 LLM 与法律专家在法律推理上的一致性。
引用
@article{arxiv.2310.14880,
title = {Can ChatGPT Perform Reasoning Using the IRAC Method in Analyzing Legal Scenarios Like a Lawyer?},
author = {Xiaoxi Kang and Lizhen Qu and Lay-Ki Soon and Adnan Trakic and Terry Yue Zhuo and Patrick Charles Emerton and Genevieve Grant},
journal= {arXiv preprint arXiv:2310.14880},
year = {2024}
}
备注
EMNLP 2023 Findings