Billera-Holmes-Vogtmann树空间中的核归一化

随着基因组测序成本急剧下降，开发高效的生物信息学方法来分析基因组结构与进化变得愈发迫切。例如，大多数已发布的系统发育基因组学研究要么涉及序列的大规模串联，要么涉及在小子集同源基因上推断的系统发育树的非正式比较，这两者都不能提供进化的全面概览或对具有不寻常且有趣进化的基因（例如水平基因转移、基因复制及随后的新功能化）的系统识别。我们感兴趣的是从基因树集合中识别此类“离群”基因树，并估计树在“树空间”上的分布。本文描述了kdetrees算法的改进，该算法是经典核密度估计在系统发育树度量空间（Billera-Holmes-Vogtman树空间）上的适配，其中核归一化常数通过使用新颖的全纯梯度方法（holonomic gradient methods）来估计。如同最初的kdetrees论文，我们将kdetrees应用于一组顶复门（Apicomplexa）基因，它识别了几个先前未检出的不可靠序列比对，以及一个被独立报道为可能水平基因转移案例的基因。