通过空间-频率课程推动差分隐私图像合成：从易到难

为提高差分隐私(DP)合成图像的质量，大多数研究聚焦于改进核心优化技术（如 DP-SGD）。近期出现了一个范式转变，即将这些技术离线化，研究如何将其组合使用以获得最佳效果。一个值得注意的工作是 DP-FETA，它提出使用“中心图像”对 DP 训练进行“预热”，然后使用传统 DP-SGD。着迷于 DP-FETA，我们好奇其他哪些工具可与 DP-SGD 一起使用。我们首先观察到，使用“中心图像”主要适用于样本相似的 dataset。为处理图像差异较大的场景，我们提出 FETA-Pro，通过引入频率特征作为“训练捷径”。频率特征的复杂度位于“中心图像”捕获的空间特征和完整图像之间，允许 DP 训练实现更细粒度的课程。为整合这两种捷径，一个挑战是处理空间特征和频率特征之间的训练差异。为此，我们利用生成模型的 pipeline 生成属性（而不是使用单一模型训练多个 features/目标，我们可以拥有多个针对不同 features 的模型，然后将一个模型生成的结果输入另一个模型），并采用更灵活的设计。具体而言，FETA-Pro 引入一个辅助生成器来生产与带噪声频率特征对齐的图像。然后，另一个模型在这些图像、空间特征和 DP-SGD 的基础上进行训练。评估了五个敏感图像 dataset，FETA-Pro 在隐私预算 $\epsilon = 1$ 下，平均以 25.7% 更高的保真度和 4.1% 更大的实用性超越最佳基线。