差分隐私下的分布式拟牛顿稳健估计

针对存在拜占庭机器的隐私保护约束下的分布式计算，本文开发了一种稳健的隐私保护分布式拟牛顿估计方法，该方法仅需节点机器向中央处理器传输五个向量，并具有较高的渐近相对效率。与需要更多轮次传输的梯度下降策略和需要传输整个海森矩阵的牛顿迭代策略相比，新颖的拟牛顿迭代在减少隐私预算和传输成本方面具有优势。此外，我们的隐私保护算法不依赖于梯度和二阶导数的有界性。当梯度和二阶导数服从次指数分布时，我们提供了一种能够以足够高概率保证隐私保护的机制。此外，这种新颖的估计器能够达到最优收敛速度和渐近正态性。在合成和真实数据集上的数值研究评估了所提出算法的性能。