拉普拉斯机制中对抗分类的统计阈值
信息论
2021-06-28 v4 math.IT
摘要
本文研究了对试图通过篡改差分隐私机制的输出以损害某些计算（如机器学习模型或聚合）并同时发现底层数据集某些信息的对抗者的检测统计特征。能够修改差分隐私机制发布信息的对抗者旨在最大化对系统可能造成损害的同时保持不被检测。我们通过确定用于判断对抗者攻击是否被检测到的假设检验问题的最佳临界区域的阈值，给出了系统隐私参数、敏感度和攻击者优势（偏置）之间的权衡。针对拉普拉斯机制，使用单侧和双侧假设检验给出了此类权衡。解析推导了相应的错误概率，并给出了针对不同敏感度水平、攻击的绝对均值和隐私参数的 ROC 曲线。随后，我们给出了对抗者所引入偏置的区间，使得防御者能够检测到攻击。最后，我们将 Kullback-Leibler 差分隐私适配到对抗分类中。
引用
@article{arxiv.2105.05610,
title = {A Statistical Threshold for Adversarial Classification in Laplace Mechanisms},
author = {Ayşe Ünsal and Melek Önen},
journal= {arXiv preprint arXiv:2105.05610},
year = {2021}
}