自回归序列的矩阵解耦聚类不等式：稀疏长程奖励的无维数保证
机器学习
2026-05-19 v2 概率论
摘要
自回归型大语言模型（LLM）中的序列级评估依赖高度相关的标记生成。建立这些过程的紧密聚类界限仍是一个挑战，其根源在于现有框架中存在两个基本瓶颈：(i) 经典不等式通常将依赖结构与目标灵敏度分离，导致标量坍缩，将方差代理膨胀到次优O(N)，其中N为稀疏终端奖励；(ii) 相反，虽然某些空间方法实现了更紧的界限，但缺乏适用于序列生成的严格因果滤波，因而无法适用于自回归情形。为解决这两个瓶颈，我们建立了一个由严格由因果依赖解析子与目标灵敏度向量的精确矩阵向量乘积所支配的尖锐的McDiarmid型不等式。这种矩阵解耦聚类（MDC）框架原生地恢复了马尔可夫链的最优常数，并利用有向d-分离，为因果树提供阶最优界限。关键的是，通过在严格因果框架内精确保持奖励的坐标稀疏性，MDC数学上防止了标量坍缩，保证了维数无关的O(1)方差代理，为长程推理稳定性提供了严格的数学依据。
引用
@article{arxiv.2605.06017,
title = {Matrix-Decoupled Concentration for Autoregressive Sequences: Dimension-Free Guarantees for Sparse Long-Context Rewards},
author = {Pei-Sen Li},
journal= {arXiv preprint arXiv:2605.06017},
year = {2026}
}