中文

DP-DocLDM:基于潜在扩散模型的差分隐私文档图像生成

密码学与安全 2025-08-07 v1

摘要

随着基于深度学习的数据驱动信息提取系统在现代文档处理工作流程中的集成程度日益增加,防止这些系统从私有数据中产生恶意泄露的主要关注点是隐私风险。虽然近期一些研究探索了差分隐私(DP)来缓解这些风险,但基于 DP 的训练已知会导致显著的性能下降,并在标准训练程序中施加若干限制,使其直接应用于下游任务变得困难且成本高昂。本文旨在此背景下,通过用合成数据替代真实私有数据来解决上述挑战,具体方法为在严格隐私约束下使用条件潜在扩散模型(LDM)生成类别特定的合成文档图像,然后遵循标准训练程序对下游分类器进行训练。我们在各种预训练设置下进行研究,包括无条件、类别条件和布局条件预训练,结合多种私有训练策略,如类别条件和 per-label 私有微调,分别使用 DPDM 和 DP-Promise 算法。此外,我们在两个著名的文档基准数据集 RVL-CDIP 和 Tobacco3482 上进行评估,表明该方法能在各种文档类型和隐私水平(ε{1,5,10}\varepsilon \in \{1, 5, 10\})下生成实用且逼真的文档样本。最后,我们展示该方法在小规模数据集上的下游评估中,相较于直接应用 DP-Adam 获得显著性能提升。

关键词

引用

@article{arxiv.2508.04208,
  title  = {DP-DocLDM: Differentially Private Document Image Generation using Latent Diffusion Models},
  author = {Saifullah Saifullah and Stefan Agne and Andreas Dengel and Sheraz Ahmed},
  journal= {arXiv preprint arXiv:2508.04208},
  year   = {2025}
}

备注

Accepted in ICDAR 2025