法律理解与违法行为的知识图谱分析
计算与语言
2025-11-13 v1
摘要
大型语言模型（LLM）的崛起为解释复杂法律框架（如美国法典第 18 条第 175 条，涉及生物武器）提供了变革性的潜力。这些系统有望推动法律分析和合规监控在敏感领域的发展。然而，这一能力伴随着令人担忧的矛盾：尽管 LLM 能够分析和解释法律，但它们在生成不安全输出方面也表现出惊人的脆弱性，例如生成制造生物武器的可操作步骤，尽管已配备了安全措施。为应对这一挑战，我们提出一种方法，将知识图谱构建与检索增强生成（RAG）相结合，系统性地评估 LLM 对该法律的理解、其评估法律意图（mens rea）的能力，以及其潜在的不安全应用。通过结构化实验，我们评估它们在识别法律违法、生成被禁止指令、检测非法意图方面的准确性。我们的发现揭示了 LLM 在推理和安全机制方面的重大局限，但也指明了前进之路。通过结合增强的安全措施与更健全的法律推理框架，本研究为开发能够在伦理和安全方面协助处理敏感法律领域的 LLM 奠定了基础，确保它们成为法律的守护者，而非违反法律的无意助长者。
引用
@article{arxiv.2511.08593,
title = {Knowledge Graph Analysis of Legal Understanding and Violations in LLMs},
author = {Abha Jha and Abel Salinas and Fred Morstatter},
journal= {arXiv preprint arXiv:2511.08593},
year = {2025}
}