在在线学习中的差分隐私极限

差分隐私是一种形式化的概念,用于限制在敏感数据上运行算法时的隐私泄露,其中隐私-效用权衡是私有数据分析中的核心问题之一。本文研究差分隐私在在线学习算法中的根本限制,并提出证据将三种约束类型分开:无DP、纯DP和近似DP。我们首先描述了一个在近似DP下可在线学习的假设类,但在自适应对抗设置下不可在纯DP下在线学习。这表明在处理自适应对抗者时必须采用近似DP。随后我们证明,任何私有在线学习者都必须对几乎所有假设类进行无限次错误。这在本质上概括了之前的结果,并显示了私有与非私有设置之间的强烈分离,因为只要没有隐私要求,只要该类是可在线学习的,就总能实现有限的错误界。