标签隐私的观察性审计
机器学习
2026-01-21 v3 密码学与安全
摘要
差分隐私（DP）审计对于评估机器学习系统中的隐私保证至关重要。然而，现有的审计方法面临大规模系统的挑战，因为它们需要修改训练数据集——例如，通过注入超出分布的 canary 或从训练集中删除样本。此类对训练数据管道的干预在资源密集型且涉及 considerable engineering overhead。我们引入一种新的观察性审计框架，该框架利用数据分布内在随机性，使能够在不改变原始数据集的情况下进行隐私评估。我们的方法将隐私审计扩展到传统成员推断之外的受保护属性，其中标签作为一种特殊情况，解决了现有技术中的关键性空白。我们提供了该方法的理论基础，并在Criteo和CIFAR-10数据集上进行实验，表明其在审计标签隐私保证方面有效。本工作为大规模生产环境中的实际隐私审计开辟了新的途径。
引用
@article{arxiv.2511.14084,
title = {Observational Auditing of Label Privacy},
author = {Iden Kalemaj and Luca Melis and Maxime Boucher and Ilya Mironov and Saeed Mahloujifar},
journal= {arXiv preprint arXiv:2511.14084},
year = {2026}
}