中文

缓解操纵与增强说服力:面向法律论辩生成的反思式多智能体方法

人工智能 2025-10-27 v2 计算与语言 机器学习

摘要

大型语言模型(LLM)越来越多地被用于法律论辩生成,但它们带来了通过幻觉和无根据说服进行操纵的重大风险,且往往未能有效利用提供的事实依据,或在论点站不住脚时未能弃权。本文提出了一种新颖的反思式多智能体方法,旨在解决合法合规说服背景下的这些挑战。我们的方法在迭代优化过程中采用专门的智能体(要素分析员和论点润色员)来生成三段式法律论点(原告、被告、反驳)。我们在三种法律场景(“有争议”、“不匹配”和“无可争议”)下,使用四种不同的 LLM(GPT-4o、GPT-4o-mini、Llama-4-Maverick-17b-128e、Llama-4-Scout-17b-16e),将反思式多智能体与单智能体、增强提示单智能体和非反思式多智能体基线进行了评估。结果表明,反思式多智能体方法在论点无法建立依据时通过阻止生成而在成功弃权方面表现出色,通过减少捏造和错误归因的要素提高了幻觉准确率,并通过更好地利用提供的案件事实提升了要素利用率召回率。这些发现表明,多智能体框架内的结构化反思为在基于 LLM 的法律论辩系统中培养伦理说服和缓解操纵提供了稳健的方法。

关键词

引用

@article{arxiv.2506.02992,
  title  = {Mitigating Manipulation and Enhancing Persuasion: A Reflective Multi-Agent Approach for Legal Argument Generation},
  author = {Li Zhang and Kevin D. Ashley},
  journal= {arXiv preprint arXiv:2506.02992},
  year   = {2025}
}

备注

13 pages, 2 figures, 2nd ConventicLe on Artificial Intelligence Regulation and Safety Workshop at ICAIL 2025