时间中的一针省九次：面向语言模型的主动自我完善
计算与语言
2025-10-07 v2 人工智能
摘要
近期的自我完善技术显著提升了大型语言模型（LLM）输出质量，但大多数现有方法依赖固定迭代次数的被动式流程，难以根据生成过程中的动态上下文确定最佳时机和内容。灵感来源于人类在执行过程中动态完善思考方式，我们提出了主动自我完善（PASR）方法，使 LLM 能够在生成过程中主动决定是否、何时以及如何进行完善。不同于重新生成整个响应的做法，PASR 根据模型内部状态和演变上下文主动决策。我们在 10 个具有代表性的任务上进行了广泛实验，以评估 PASR 的有效性。实验结果表明，PASR 在问题解决性能上显著提升。特别是对于 Qwen3-8B，PASR 比标准生成方式减少 41.6% 的平均 token 消耗，同时实现 8.2% 的准确率提升。我们在 GitHub 上提供了本文使用的代码和基线方法。
引用
@article{arxiv.2508.12903,
title = {A Stitch in Time Saves Nine: Proactive Self-Refinement for Language Models},
author = {Jinyi Han and Xinyi Wang and Haiquan Zhao and Tingyun li and Zishang Jiang and Sihang Jiang and Jiaqing Liang and Xin Lin and Weikang Zhou and Zeye Sun and Fei Yu and Yanghua Xiao},
journal= {arXiv preprint arXiv:2508.12903},
year = {2025}
}