DiNADO：用于可控语言模型的范数解耦神经分解预言机

神经分解预言机（NADO）是一种用于大语言模型可控生成的强大方法。其旨在避免灾难性遗忘，同时以合理的建模能力实现对熵最大化的闭式最优解的保证收敛。尽管取得成功，将 NADO 应用于广泛场景时仍出现若干挑战。原始 NADO 对低概率控制信号存在梯度消失问题，且高度依赖正则化以满足贝尔曼方程的随机版本。此外，NADO 的原始实现引入了若干额外的 transformer 层，容量有限，尤其相较于 LoRA 等其他基于微调的模型适配方法。本文提出 NADO 算法的改进版本，即 DiNADO（范数解耦神经分解预言机，norm-Disentangled NeurAlly-Decomposed Oracles），通过对所有潜在下一词元的近似预言机 $R$ 值之逐步全局范数进行解耦，提升 NADO 算法性能，并使 DiNADO 可与 LoRA 等微调方法结合。我们从经验与理论结果深入讨论 DiNADO 如何实现更优的容量、稳定性与灵活性。在机器翻译的形式控制与词汇约束生成任务 CommonGen 上的实验表明了上述改进的重要意义。