Polaris:面向小型语言模型的 G"odel 代理框架经验抽象化策略修复
机器学习
2026-05-15 v2
摘要
G"odel 代理实现递归自我改进:代理检查其自身策略并追踪,然后在测试循环中修改该策略。我们引入 Polaris,一个为紧凑模型进行策略修复的 G"odel 代理,通过经验抽象将失败转化为策略更新,形成分析、策略形成、抽象化和保守检查下的最小代码补丁修复的结构化循环。与响应级别自纠正或参数调谋不同,Polaris 在策略层面进行更改,采用小而可审计的补丁,这些补丁在策略中持久化,并在每个基准的未见实例中重用。作为循环的一部分,代理进行元推理:它解释其错误,提出对自身策略的具体修订,然后更新策略。为实现累积的策略细化,我们引入经验抽象,将失败蒸馏为紧凑、可重用的策略,迁移到未见的实例。在 MGSM、DROP、GPQA 和 LitBench(覆盖算术推理、组合推理、graduate 级别问题解决和创意写作评估)上,一个 70 亿参数模型配备 Polaris 在基准策略和竞争基线上实现持续性提升。
引用
@article{arxiv.2603.23129,
title = {Polaris: A G\"odel Agent Framework for Small Language Models through Experience-Abstracted Policy Repair},
author = {Aditya Kakade and Vivek Srivastava and Shirish Karande},
journal= {arXiv preprint arXiv:2603.23129},
year = {2026}
}
备注
Accepted to ACL 2026 (Findings). 33 pages