私有演化收敛性研究

私有演化（PE）是一种有前景的无训练差分隐私（DP）合成数据生成方法。虽然它在某些领域（如图像和文本）中取得了强劲性能，但在其他领域（如表格数据）中的行为不太一致。到目前为止，PE收敛性的唯一理论分析依赖于对算法行为和数据集中敏感结构的非现实假设。在本工作中，我们开发了一个新的理论框架来理解PE的实际行为，并识别其收敛的充分条件。对于具有n个数据点的d维敏感数据集，若来自凸紧集，我们证明在合适的超参数设置下，并给定PE23中提出的Gaussian variation API，PE产生一个(ε,δ)-DP合成数据集，其与原始数据集的期望1-Wasserstein距离为Õ(d(nε)^(-1/d))；这建立了算法在n→∞时的最坏情况收敛性。我们的分析还推广到一般的Banach空间。我们还将PE与私有符号测度机制联系起来——一种迄今为止尚未获得广泛实际应用的差分隐私合成数据生成方法。我们通过实验展示了理论发现的实际相关性。