幻觉是你最不需要的东西
计算与语言
2023-06-21 v1
摘要
法律行业需要一种多维度的方法，包括对法律问题的深入理解与基于个人经验的有见地的评论相结合，加上对相关立法、法规和判例法的全面理解，以提供知情的法律解决方案。当前生成式 AI 在复制这一点上面临重大障碍，因为现有模型难以整合和驾驭理解、经验和事实核查程序之间如此复杂的相互作用。值得注意的是，当生成式 AI 输出反映了对类似主题的各种主观观点之集合的理解和经验时，这往往会转移模型对关键法律事实的注意力，从而导致幻觉。因此，本文深入探讨了三个独立的 LLM 的可行性，每个 LLM 分别专注于理解、经验和事实，合成为一个单一的集成模型，以有效抵消现有单体生成式 AI 模型带来的当前挑战。我们引入了多长度分词的概念，以保护像普通法判决这样的关键信息资产，最后我们针对法律幻觉审问了最先进的公开可用模型，并得出了一些有趣的结果。
引用
@article{arxiv.2306.11520,
title = {Hallucination is the last thing you need},
author = {Shawn Curran and Sam Lansley and Oliver Bethell},
journal= {arXiv preprint arXiv:2306.11520},
year = {2023}
}