数据偏移损害思维链：一项理论研究

思维链（Chain of Thought, CoT）已被应用于各类大语言模型（LLM），并被证明能有效提升输出质量。近期研究表明，Transformer 在表达能力上具有绝对上界，因此无法解决许多计算困难的问题。然而，得益于 CoT，Transformer 被证明能够有效解决某些困难问题，例如 $k$-奇偶问题。然而，这些工作依赖于两个关键假设：（1）训练与测试分布相同，（2）训练数据无噪声且推理步骤正确。然而在现实世界中，这些假设并不总是成立。尽管数据偏移的风险已引起关注，但据我们所知，本工作是首次严格研究此类偏移所造成的精确危害。聚焦于 $k$-奇偶问题，本工作研究了两种数据偏移——分布偏移与数据投毒——对通过成熟的 CoT 分解方法获得的训练模型质量的联合影响。除了揭示了一个令人惊讶的现象——CoT 在学习奇偶性方面的表现反而不如直接生成预测——我们的技术结果还对该类影响的内在机制原因给出了严格而全面的解释。