Logistic 回归系数的符号

设 Y 为二元随机变量，X 为标量。设 $\hat\beta$ 为含截距项的 Y 对 X 的 Logistic 回归中斜率的最大似然估计。进一步设 $\bar x_0$ 和 $\bar x_1$ 分别为 y=0 和 y=1 情形下样本 x 值的平均值。则在排除可分预测变量的条件下，我们证明 sign($\hat\beta$) = sign($\bar x_1-\bar x_0$)。更一般地，若 $x_i$ 为向量值，则我们证明 $\hat\beta=0$ 当且仅当 $\bar x_1=\bar x_0$。该结论不仅适用于 Logistic 回归，也适用于具有满足对数凹性条件的逆链接函数的更广义二元回归。最后，当 $\bar x_1\ne \bar x_0$ 时，在满足对数凹性条件和可分性条件且设计矩阵满秩的二元回归中，$\hat\beta$ 与 $\bar x_1-\bar x_0$ 之间的夹角小于 90 度。