多样性中的可检测性：面向隐私审计的单运行 Canary 优化设计
机器学习
2026-05-27 v1 机器学习
摘要
隐私审计旨在使用成员推断攻击 (MIA) 评估机器学习模型的隐私泄露，并推导出差分隐私 (DP) 参数的下界。近期的单运行审计方法通过利用单个训练运行中的多个“Canary”点（其包含或排除情况需由审计者检测）来解决标准方法的高成本问题。本文研究了如何高效设计 Canary 以实现单运行隐私审计。受最新理论见解的启发，表明 Canary 之间的相互干扰导致与多运行方法相比，泄漏估计较弱，我们提出优化 Canary 使其既高度可被检测，又最小化相互干扰。我们的ethods 结合基于影响函数的贪心初始化和一个 bilevel 优化程序，以最大化可区分性同时在嵌入空间中促进多样性，实现可计算的 bilevel 算法。实验表明，我们的方法在较低的计算成本下，优于现有 Canary 设计方法，实现更强的隐私泄漏估计。
引用
@article{arxiv.2605.27292,
title = {Detectability in Diversity: Improved Canary Crafting for Privacy Auditing in One Run},
author = {Mathieu Dagréou and Aurélien Bellet},
journal= {arXiv preprint arXiv:2605.27292},
year = {2026}
}