IF-CRITIC：面向指令遵循评估的细粒度 LLM 批判器
计算与语言
2026-04-17 v3
摘要
指令遵循是大型语言模型 (LLM) 的基本能力，要求其生成的输出遵循输入指令中施加的多个约束。众多研究尝试通过基于 LLM 评判器的偏好优化或强化学习来增强此能力。然而，现有的指令遵循评估模型仍存在诸多缺陷，如高昂成本和不可靠评估。为此，我们提出 IF-CRITIC，一个用于细粒度、高效和可靠指令遵循评估的 LLM 批判器。我们首先开发检查清单生成器，将指令分解并生成约束检查清单。借助检查清单，我们通过多阶段批判过滤机制收集高质量批判训练数据，并采用约束级别偏好优化方法训练 IF-CRITIC。大量实验表明，IF-CRITIC 的评估性能优于强大的 LLM 评判器基线，包括 o4-mini 和 Gemini-3-Pro。借助 IF-CRITIC 提供的奖励信号，LLM 在较低计算开销下即可实现指令遵循优化中的显著性能提升。我们的代码和模型已提供于 https://github.com/thu-coai/IF-CRITIC。
引用
@article{arxiv.2511.01014,
title = {IF-CRITIC: Towards a Fine-Grained LLM Critic for Instruction-Following Evaluation},
author = {Bosi Wen and Yilin Niu and Cunxiang Wang and Pei Ke and Xiaoying Ling and Ying Zhang and Aohan Zeng and Hongning Wang and Minlie Huang},
journal= {arXiv preprint arXiv:2511.01014},
year = {2026}
}
备注
ACL 2026