带 U 形约束的二项混合模型

在本文中，我们研究在二项大小 $m$ 相对于样本大小 $n$ 可能较大的情形下二项混合模型。该工作的动机源于 GeneFishing 方法（Liu 等，2019），其输出为感兴趣参数与子采样噪声的组合。为处理输出中的噪声，我们利用输出密度呈 U 形这一观测事实，并在 U 形约束下用二项混合模型对输出建模。我们首先分析了在不同 F 条件下二项混合模型中潜在分布 F 的估计。借助这些理论认识，我们提出一种简单方法 Ucut，基于 Grenander 估计量（Grenander，1956）识别 U 形的截断点并恢复潜在分布。已证明当 $m = \Omega(n^{2/3})$ 时，所识别的截断点以 $O(n^{-1/3})$ 的速率收敛。恢复分布与真实分布之间的 $L_1$ 距离以相同速率下降。为展示性能，我们将方法应用于多种模拟研究、用于（Liu 等，2019）的 GTEX 数据集以及来自 Tabula Muris 的单细胞数据集。