用于私有寻找二阶 stationary 点的自适应批量大小

在差分隐私约束下，寻找一阶 stationary 点（FOSP）与二阶 stationary 点（SOSP）之间存在差距，人们仍不清楚私有地寻找 SOSP 是否比寻找 FOSP 更具挑战性。具体而言，Ganesh 等人（2023）声称可以 $\alpha=O(\frac{1}{n^{1/3}}+(\frac{\sqrt{d}}{n\epsilon})^{3/7})$ 的条件找到 $\alpha$-SOSP，其中 $n$ 为数据集大小，$d$ 为维度，$\epsilon$ 为差分隐私参数。然而，最近的分析揭示了他们的鞍点逃脱程序中的一个问题，导致保障较弱。基于 SpiderBoost 算法框架，我们提出一种新方法，采用自适应批量大小并结合二进制树机制。我们的方法不仅纠正了这一问题，还提高了私有地寻找 SOSP 的结果，实现 $\alpha=O(\frac{1}{n^{1/3}}+(\frac{\sqrt{d}}{n\epsilon})^{1/2})$。这一改进的界限与寻找 FOSP 的最新结果相匹配，表明私有地寻找 SOSP 可能在没有额外成本的情况下即可实现。