通过更快的 Frank-Wolfe 迭代扩展差分隐私 LASSO 正则化逻辑回归

据我们所知,目前尚无在稀疏输入数据上训练差分隐私回归模型的方法。为此,我们使 Frank-Wolfe 算法适配 $L_1$ 惩罚线性回归,以感知并有效利用稀疏输入。由此,我们将算法训练时间从 $\mathcal{O}( T D S + T N S)$ 降至 $\mathcal{O}(N S + T \sqrt{D} \log{D} + T S^2)$,其中 $T$ 为迭代次数,$S$ 为具有 $N$ 行 $D$ 个特征的数据集的稀疏率。我们的结果表明,根据隐私参数 $\epsilon$ 的值与数据集稀疏度,该过程可将运行时间减少至多 $2,200\times$。