低秩黎曼更新下压缩查询委托的失真率分析
计算与语言
2026-01-06 v1 最优化与控制
摘要
受限上下文代理在中间推理超过有效工作记忆预算时会失败。我们研究压缩查询委托（CQD）：（i）将高维潜在推理状态压缩为低秩张量查询，（ii）将最小查询委托给外部 oracle，（iii）通过在固定秩流形上的黎曼优化更新潜在状态。我们给出一种数学优先表述：CQD 是一个受查询预算约束的随机规划问题，oracle 建模为一个带噪声的算子。我们将 CQD 与经典失真率和信息瓶颈原理相联系，表明在自然受限二次失真问题中，谱硬阈值是最优的，并且我们在有界 oracle 噪声和光滑性假设下推导了黎曼随机逼近的收敛保证。经验上，我们报告（A）一个 2,500 项受限上下文推理套件（BBH 派生任务 plus 精选悖论实例），将 CQD 与 chain-of-thought baseline 在固定计算和上下文条件下进行比较；以及（B）一个人类“认知镜像”基准测试（N=200），衡量现代 oracle 跨越的认知增益和语义漂移。
引用
@article{arxiv.2601.00938,
title = {Rate-Distortion Analysis of Compressed Query Delegation with Low-Rank Riemannian Updates},
author = {Faruk Alpay and Bugra Kilictas},
journal= {arXiv preprint arXiv:2601.00938},
year = {2026}
}
备注
9 pages