掩码扩散模型的置信度捷径：一种推理失效模式

掩码扩散语言模型(MDMs)独特地支持任意顺序生成，置信度基于解码目前作为事实上的推理策略。为优化这一点，最近的训练方案试图直接将训练掩码模式与生成期间观察到的模式对齐。然而，我们认为置信度基于解码本质上与解决复杂推理所需的逻辑流程轨迹不匹配，而置信度对齐训练主动加剧了这种不匹配。我们通过多位数加法来具体化这一点，在该任务中，解码策略会在解决长程依赖之前，过早地预测局部容易的数字，从而在具有挑战性的输入上产生高置信度错误。尽管传统随机掩码在这一具有挑战性的尾部区域保持错误率较低，置信度对齐训练却将错误率提高了一个数量级。在五个不同的推理任务中，这一模式以任务相关的严重程度出现：置信度基于解码会在高度复杂的输入上引发错误，而置信度对齐训练则加剧了这些错误。相比之下，尽管被认为效率较低，随机掩码能稳健地保留解决具有挑战性尾部区域所必需的推理轨迹条件。