生产任务编排中的提示压缩:预注册随机试验
计算与语言
2026-03-26 v1
摘要
提示压缩的经济学不仅取决于减少输入 token,还取决于压缩如何影响输出长度,而输出长度通常被定价数倍于输入。我们在对生产多智能体任务编排进行预注册六臂随机对照试验中评估了这一点,分析了 358 次成功的 Claude Sonnet 4.5 运行(每臂 59-61 次),从 1,199 份真实编排指令的随机语料库中抽取。我们将未压缩的 control 与三种均匀保留率(r=0.8, 0.5, 0.2)以及两种结构感知策略(熵自适应和 recency 加权)进行比较,测量总推理成本(input+output)和基于嵌入的 response similarity。适度压缩(r=0.5)将平均总成本降低 27.9%,而激进压缩(r=0.2)尽管大幅度减少输入,仍将平均成本增加 1.8%,这与小的平均输出扩张(1.03x 相对于 control)和重尾不确定性相符。recency 加权压缩实现了 23.5% 的节省,并且与适度压缩一起占据了经验成本-相似性 Pareto 前沿,而激进压缩在成本和相似性两方面都被支配了。这表明“压缩越多”并非可靠的生产启发式,且在设计压缩策略时必须将 output token 作为一级结果加以考虑。
引用
@article{arxiv.2603.23525,
title = {Prompt Compression in Production Task Orchestration: A Pre-Registered Randomized Trial},
author = {Warren Johnson and Charles Lee},
journal= {arXiv preprint arXiv:2603.23525},
year = {2026}
}
备注
28 pages, 9 tables, 1 CONSORT figure; pre-registered randomized controlled trial on production orchestration prompts