线性时间内的密度估计

我们考虑从分布集 F 中选择一个密度估计量，以最小化其与未知分布的 L1 距离（Devroye, Lugosi 2001）。Devroye 和 Lugosi 分析了该问题的两种算法：Scheffe 竞赛获胜者（Scheffe tournament winner）和最小距离估计（minimum distance estimate）。Scheffe 竞赛估计量所需的计算量少于最小距离估计量，但其保证严格弱于后者。我们专注于密度估计的计算方面。我们提出了两种算法，它们具有与最小距离估计量相同的保证。第一种算法是 minimum distance estimate 的改进版，使用了与 Scheffe tournament 相同数量（关于 |F| 的二次方）的计算量。第二种算法称为“高效最小损失权重估计”（efficient minimum loss-weight estimate），假设 F 经过预处理，仅使用线性数量的计算量。我们还给出了示例，表明这些算法的保证无法进一步改进，并探讨了用于密度估计的随机化算法。