训练时无需正交化，推理时使用 SVD：旋转表示的梯度分析

最近的研究表明，在训练时移除正交化仅在推理时应用可改善旋转估计，已有经验性证据表明 9D 表示配合 SVD 投影效果最佳。然而，关于 SVD 正交化为何损害训练、为何优于 Gram-Schmidt 正交化的理论理解尚不完整。我们对专用于 $3 \times 3$ 矩阵和 $SO(3)$ 投影的 SVD 正交化进行详细的梯度分析。我们的核心结果推导了 SVD 反向传播雅可比矩阵的确切谱：其秩为 $3$（与 $SO(3)$ 的维数相符），非零奇异值为 $2/(s_i + s_j)$，条件数为 $\kappa = (s_1 + s_2)/(s_2 + s_3)$，这导致梯度畸变可量化化，畸变最严重时预测矩阵远离 $SO(3)$（例如训练初期时 $s_3 \approx 0$）。我们进一步表明，即便经过稳定化的 SVD 梯度也会引入梯度方向误差，而从训练循环中移除 SVD 可完全规避这一权衡。我们还证明 6D Gram-Schmidt 雅可比矩阵具有非对称谱：其参数接收不等的梯度信号，这解释了为何 9D 参数化更优。综合这些结果，为仅在推理时应用 SVD 投影而在训练时进行直接 9D 回归提供了理论基础。