去中心化网络上的经验似然推断

作为一种非参数统计推断方法，经验似然在许多场合被证明非常有用。然而，当直接应用于现代大规模数据集时，它遇到了严重的计算挑战。本文研究去中心化分布式网络上的经验似然推断，其中数据由不同节点本地收集和存储。为了充分利用数据，本文通过采用惩罚技术融合在不同节点计算的拉格朗日乘子。所提出的分布式经验对数似然比统计量，其拉格朗日乘子通过惩罚函数求解，在正则条件下渐近服从标准卡方分布，即使机器数量发散也是如此。然而，在去中心化分布式网络中，带有融合惩罚的优化问题仍然难以求解。为了解决这个问题，提出了两种基于交替方向乘子法（ADMM）的算法，这两种算法都具有简单的基于节点的实现方案。在理论上，本文建立了所提出算法的收敛性质，并进一步证明了第二种算法在某些特定网络结构下的线性收敛性。所提出的方法通过数值模拟进行评估，并通过分析人口普查收入和Ford gobike数据集进行说明。