多元正态分布联合约束均值-协方差的极大似然估计

估计无约束均值与协方差矩阵是统计学中的热门课题。然而，在诸如$\Sigma\mu = \mu$的联合约束下估计$N_p(\mu,\Sigma)$的参数却鲜受关注。它可视为$N(\theta,\theta^2)$分布中经典估计问题的多元对应。除此类参数间非线性约束（弯曲指数族）带来的常规推断挑战外，估计协方差矩阵时还须处理对称性与正定性的基本要求。我们推导了$(\mu,\Sigma)$约束极大似然估计的非线性似然方程，并用迭代方法求解。一般而言，由迭代方法计算的协方差矩阵MLE不满足约束。我们提出一种新算法来修正此类（不可行）估计量或任何其他（合理的）估计量。关键步骤是利用回归思想将均值向量沿协方差矩阵的特征向量重新对齐。在使用约束MLE的拉格朗日函数（Aitchison et al. 1958）时，拉格朗日乘子与感兴趣的参数纠缠在一起，带来了另一计算挑战。我们通过迭代或显式计算拉格朗日乘子来处理此问题。借助随机矩阵理论的最新结果，在数据依赖的凸集内探讨了约束MLE的存在性及其位置性质。仿真研究说明了我们的方法，并表明修正后的估计量优于迭代方法的初始估计量。