QU-NLP 在 QIAS 2026 比赛中的表现：基于多阶段 QLoRA 微调的阿拉伯语伊斯兰教产业推理
计算与语言
2026-04-21 v1
摘要
伊斯兰教产业法（ilm al-mawar{i}th）是评估大型语言模型结构化推理能力的具有挑战性的领域，要求进行多步骤法律分析、基于规则的阻塞决策以及精确的分数计算。我们 presenting QU-NLP 对 QIAS 2026 比赛中阿拉伯语伊斯兰教产业推理任务的提交方案。我们的方法采用多阶段量化低秩适应（QLoRA）微调策略，对 Qwen3-4B 模型进行微调：（1）在 3,166 条伊斯兰法律言论记录上进行领域适应，以获取产业术语和法学推理模式，随后（2）在 12,000 条结构化产业案例上进行任务特定训练，以优化 JSON 格式输出的生成。采用 4 位 NF4 量化和秩为 128 的 LoRA adapter，我们的模型在测试集上取得 90% 的 MIR-E（Mawarith Inheritance Reasoning Evaluation）分数，展示了在最小计算资源要求下实现的竞争性能。我们的结果表明，领域特定的预适应结合结构化输出训练，使小型语言模型能够有效地完成复杂的法律推理任务，性能与 Gemini-2.5-flash 等商业系统相当。
引用
@article{arxiv.2604.16396,
title = {QU-NLP at QIAS 2026: Multi-Stage QLoRA Fine-Tuning for Arabic Islamic Inheritance Reasoning},
author = {Mohammad AL-Smadi},
journal= {arXiv preprint arXiv:2604.16396},
year = {2026}
}
备注
Accepted for publication, The 7th Workshop on Open-Source Arabic Corpora and Processing Tools, LREC26 conference