参数总体中变化的最优估计

对总体中感兴趣参数变化量的配对估计在社会科学、流行病学、医学与生物学等多个应用领域起着核心作用。在这些领域中，所研究总体规模往往非常大，但总体中每个个体的观测数极少（\emph{稀疏观测}），这使问题具挑战性。考虑如下设定：有 $N$ 个独立个体，每个个体具有从 $[0, 1]^2$ 上某未知分布抽取的未知参数 $(p_i, q_i)$。我们在某事件前观测 $X_i \sim \text{Bin}(t, p_i)$，事件后观测 $Y_i \sim \text{Bin}(t, q_i)$。给定这些配对观测 $\{(X_i, Y_i) \}_{i=1}^N$，我们的目标是利用稀疏观测（$t\ll N$）准确估计总体上参数变化的\emph{分布} $\delta_i := q_i - p_i$，以及诸如\emph{变化的 $\ell_1$ 模}等感兴趣的性质。我们给出估计变化分布与变化 $\ell_1$ 模误差的\emph{信息论下界}。进而，我们证明如下两步过程达到最优误差界：首先用最大似然估计器（MLE）估计配对参数的完整联合分布，再用该联合 MLE 估计变化分布与变化的 $\ell_1$ 模。值得注意的是，且或许令人惊讶地，这些误差界与学习\emph{完整}联合分布本身（在 Wasserstein-1 距离下）的极小极大最优误差界同阶；换言之，在极小极大意义下，估计总体上参数变化幅度与估计完整联合分布本身同样困难。