LegalDrill：面向小型语言模型的法律推理诊断驱动合成
计算与语言
2026-04-28 v1
摘要
小型语言模型（Small Language Models, SLMs）因其效率和低运营成本而在实际部署中备受青睐。然而，其有限的容量在需要连贯的法律条文解读和逻辑一致推理的高风险法律推理任务中显得不足。此外，为此类任务训练SLMs需要高质量、简洁的推理轨迹，这些轨迹难以通过标准的拒绝抽样方式获得，且仅凭最终裁决难以获得足够的细粒度信息。为解决这些挑战，我们提出了{LegalDrill}——一种诊断驱动的合成框架，通过精细的提示从强大的教师模型中提取并迭代细化推理轨迹，然后采用自我反思验证来适应性地选择对SLM学生最有效的数据。最终得到的数据通过监督微调和直接偏好优化来强化SLM的训练。 extensive 实验表明，{LegalDrill}在多个法律基准测试上均显著提升了代表性SLMs的法律推理能力，同时无需稀缺的专家标注，为实用化的法律推理系统铺平了可扩展的路径。
引用
@article{arxiv.2604.23809,
title = {LegalDrill: Diagnosis-Driven Synthesis for Legal Reasoning in Small Language Models},
author = {Tianchun Li and Haochen Liu and Vishwa Pardeshi and Xingchen Wang and Tianci Liu and Huijun Zhao and Wei Fan and Jing Gao},
journal= {arXiv preprint arXiv:2604.23809},
year = {2026}
}
备注
ACL 2026 Industry Track