读者当心：法律实践中的大语言模型
计算与语言
2024-03-15 v1 计算机与社会
摘要
当前对大语言模型（LLM）的狂热源于许多用户缺乏评估生成文本质量的专业知识。因此，LLM 可能显得比其实际能力更强。流畅性与表面合理性的危险结合诱使人们信任生成的文本，并产生了过度依赖的风险。谁会不信任完美的法律语言呢？基于技术和法律学术的最新发现，本文对 LLM 在法律实践中的作用的过度乐观预测进行了平衡。在不更好地理解其局限性的情况下将 LLM 整合到法律工作流程中，将造成低效甚至直接风险。尽管 LLM 具有前所未有的文本生成能力，但它们并不理解文本。由于缺乏理解语义的能力，LLM 将无法使用语言、获取知识并执行复杂的推理任务。LLM 基于随机词预测来对语言进行建模，无法区分事实与虚构。它们对法律的知识仅限于在其参数中记忆的词串。这种知识也是不完整且大部分是不正确的。LLM 在词分布层面运作，而非在已验证事实层面。由此产生的幻觉倾向，即产生看似有用且相关但实际不正确的陈述，在法律服务等高风险领域令人担忧。目前，律师应警惕依赖 LLM 生成的文本。
引用
@article{arxiv.2403.09163,
title = {Caveat Lector: Large Language Models in Legal Practice},
author = {Eliza Mik},
journal= {arXiv preprint arXiv:2403.09163},
year = {2024}
}
备注
Vol 19 Rutgers Bus L R 2 2024 (forthcoming)