单词与权重：通过协适化优化实现多轮交互的高效化
人工智能
2026-03-03 v1 机器学习
摘要
测试时间策略适应(T2PAM)对于在推理阶段与用户动态需求实现对齐至关重要。然而，现有方法常将测试时间适应视为单一维度问题，或仅通过提示工程优化指令，或仅通过测试时间训练调整权重，忽视了交互失败源于模糊性与能力不足的耦合混合因素。我们认为，这两种优化路径不仅是可加的，更是协同的：语义清晰性是有效参数更新的先决条件。为此，我们提出ROSA2框架，将交互重新表述为单词与权重异构空间上的联合优化问题。通过数学分解误差信号，ROSA2利用文本梯度纠正意图模糊，利用参数更新弥补能力差距。理论上，我们证明了这种协适化严格降低了收敛所需的参数偏移量。实验上，ROSA2在MATH基准上超越最新方法30%，同时将交互轮数减少40%，表明优化上下文可发挥参数更新的真正潜力。
引用
@article{arxiv.2603.01375,
title = {Words & Weights: Streamlining Multi-Turn Interactions via Co-Adaptation},
author = {Chenxing Wei and Hong Wang and Ying He and Zhongxiang Dai and Bo Jiang and F. Richard Yu and Yao Shu},
journal= {arXiv preprint arXiv:2603.01375},
year = {2026}
}