Softmax 函数为 1/2-Lipschitz：跨所有 $ℓ_p$ 范数的紧致界

Softmax 函数是机器学习和优化中基础且重要的算子，广泛应用于分类、注意力机制、强化学习、博弈论以及涉及 log-sum-exp 项的问题。现有的鲁棒性保证和优化算法收敛性分析通常将 softmax 算子的 Lipschitz 常数设为 $1$（以 $ℓ_2$ 范数为准）。本文证明了 softmax 函数在所有 $ℓ_p$ 范数（$p \ge 1$）下均具有 Lipschitz 常数为 $1/2$ 的收缩性。我们还指出，softmax 的局部 Lipschitz 常数在 $p = 1$ 和 $p = \infty$ 时达到 $1/2$，而对于 $p \in (1,\infty)$，常数严格小于 $1/2$，且极限情况下的上确界为 $1/2$。据我们所知，这是首次对 softmax Lipschitz 连续性进行全网格（norm-uniform）分析。我们展示了更紧致的常数如何直接改进一系列现有理论结果中的鲁棒性和收敛性。我们进一步通过在注意力机制类模型（ViT、GPT-2、Qwen3-8B）以及强化学习中的随机策略上进行实证研究，验证了 $1/2$ Lipschitz 常数的尖锐性。