从先前的错误中检索到的情境原则
计算与语言
2026-05-26 v2
摘要
情境学习 (ICL) 在使用正确的输入输出示例来适应大型语言模型 (LLM) 的下游任务方面发挥着重要作用。近期的进展尝试通过从错误中派生的原则来提高模型性能，但这些方法存在缺乏定制化和错误覆盖不足的问题。为此，我们提出了检索式情境原则 (RICP)，一种新颖的教师-学生框架。在 RICP 中，教师模型分析学生模型的错误，以生成防止类似错误的原因和见解。这些错误根据其背后的原因进行聚类，以开发任务级别的原则，增强原则的错误覆盖范围。在推理期间，检索与每个问题最相关的错误，以创建问题级别的原则，从而提高所提供指导的定制化。RICP 与现有的提示方法是正交的，在推理期间无需来自教师模型的干预。跨七个推理基准的实验结果表明，RICP 在应用于各种提示策略时能够有效提升性能。
引用
@article{arxiv.2407.05682,
title = {Retrieved In-Context Principles from Previous Mistakes},
author = {Hao Sun and Yong Jiang and Bo Wang and Yingyan Hou and Yan Zhang and Pengjun Xie and Fei Huang},
journal= {arXiv preprint arXiv:2407.05682},
year = {2026}
}