RPRA：预测 LLM-Judge 以实现高效且高性能的推理
人工智能
2026-04-15 v1 计算与语言
机器学习
多智能体系统
摘要
大语言模型（LLM）面临计算效率（如参数数量）与输出质量之间的根本性权衡，尤其是在部署在手机或笔记本等计算受限设备时。一种解决方法是效仿人类，让模型在认为自己无法解决问题时请求帮助；通过允许较小的模型在其认为能够提供好答案时作出响应，并在其不信心时 defer 给更大的模型。为此，我们研究了Predict-Answer/Act（PA）和Reason-Predict-Reason-Answer/Act（RPRA）范式，其中模型在作答前预测 LLM Judge 会对其输出给出的分数。我们评估了三种方法：零样本预测、使用 in-context 报告卡预测、以及监督微调。我们的结果表明，较大的模型（特别是推理模型）在零样本预测通用 LLM Judge方面表现良好，而较小的模型在经过微调或提供 in-context 报告卡后可以可靠地预测此类 Judge。总体而言，这两种方法都可以显著提高较小模型的预测准确率，报告卡和微调分别实现了最高可达55%和52%的平均提升。这些发现表明，模型可以学习预测自身的性能限制，为更高效和自我感知的AI系统铺平了道路。
关键词
引用
@article{arxiv.2604.12634,
title = {RPRA: Predicting an LLM-Judge for Efficient but Performant Inference},
author = {Dylan R. Ashley and Gaël Le Lan and Changsheng Zhao and Naina Dhingra and Zhipeng Cai and Ernie Chang and Mingchen Zhuge and Yangyang Shi and Vikas Chandra and Jürgen Schmidhuber},
journal= {arXiv preprint arXiv:2604.12634},
year = {2026}
}
备注
10 pages in main text + 6 pages of references + 36 pages of appendices, 12 figures in main text + 37 figures in appendices, 2 tables in main text + 3 table in appendices, 13 prompts in appendices