差分隐私筛选规则的挑战

线性 $L_1$ 正则化模型一直是数据分析中最简单且最有效的工具之一，尤其在信息检索问题中，基于 TF-IDF 或 Okapi 特征值的文本 n-gram 是一个强劲且易用的基线。过去十年中，筛选规则（screening rules）作为降低 $L_1$ 模型稀疏回归权重生成耗时的手段日益流行。然而，尽管信息检索中对隐私保护模型的需求不断增长，据我们所知，目前尚不存在差分隐私筛选规则。本文中，我们开发了首个用于线性回归与逻辑回归的差分隐私筛选规则。在此过程中，我们发现由于为保障隐私所加入的噪声量，构建有用的隐私筛选规则存在困难。我们给出理论论证与实验证据，表明该困难源于筛选步骤本身而非隐私优化器。基于我们的结果，我们强调开发有效的隐私 $L_1$ 筛选方法是差分隐私文献中的一个开放问题。