中文

TTCS:用于自演化的测试时间课程合成

机器学习 2026-02-02 v1 人工智能 计算与语言

摘要

测试时间训练(Test-Time Training)是一种有前景的提高大语言模型(LLM)推理能力的方法,通过仅使用测试问题来适应模型。然而,现有方法面临两个挑战:原始测试问题往往过于困难,难以生成高质量的伪标签;且测试集规模有限,导致持续在线更新容易引发不稳定。为此,我们提出 TTCS,一个协同演化的测试时间训练框架。具体而言,TTCS 从相同的预训练模型初始化两个策略:问题合成器和推理求解器。这两个策略通过迭代优化相互演化:合成器在测试问题的条件下生成逐步更具挑战性的问题变体,为求解器当前能力水平构建结构化课程;而求解器则利用来自原始测试问题和合成问题多个采样响应的自一致奖励进行自我更新。关键在于,求解器的反馈引导合成器生成与模型当前能力相匹配的问题,而生成的问题变体又稳定了求解器的测试时间训练。实验表明,TTCS 在挑战性数学基准上持续提升推理能力,并能在不同 LLM 主干模型间普遍迁移至通用领域任务,凸显了面向自我演化构建测试时间课程的可扩展路径。我们的代码与实现细节已公开于 https://github.com/XMUDeepLIT/TTCS。

关键词

引用

@article{arxiv.2601.22628,
  title  = {TTCS: Test-Time Curriculum Synthesis for Self-Evolving},
  author = {Chengyi Yang and Zhishang Xiang and Yunbo Tang and Zongpei Teng and Chengsong Huang and Fei Long and Yuhan Liu and Jinsong Su},
  journal= {arXiv preprint arXiv:2601.22628},
  year   = {2026}
}

备注

10 pages, 4 figures, Our code and implementation details are available at https://github.com/XMUDeepLIT/TTCS