私有优化中针对函数难度与增长条件的自适应方法

我们开发了用于私有随机凸优化的算法，这些算法自适应于我们希望优化的特定函数的难度。虽然以往工作针对任意凸函数给出了最坏情况界，但手头函数常属于享有更快收敛速率的更小类。具体而言，我们证明对于在最优解附近呈现 $\kappa$-增长的函数，即 $f(x) \ge f(x^*) + \lambda \kappa^{-1} \|x-x^*\|_2^\kappa$（$\kappa > 1$），我们的算法将标准 ${\sqrt{d}}/{n\varepsilon}$ 私有速率改进为更快的 $({\sqrt{d}}/{n\varepsilon})^{\tfrac{\kappa}{\kappa - 1}}$。关键在于，它们在不知道函数增长常数 $\kappa$ 的情况下实现了这些速率。我们的算法建立在逆敏感度机制（其自适应于实例难度 (Asi & Duchi, 2020)）与近期私有优化中的局部化技术 (Feldman et al., 2020) 之上。我们以这些函数类的匹配下界补充我们的算法，并证明我们的自适应算法在任意 $\kappa \ge 1+c$（其中 $c = \Theta(1)$）时同时（极小极大）最优。