KNG:K-范数梯度机制
密码学与安全
2021-08-03 v2 机器学习
摘要
本文提出一种用于生成满足差分隐私的净化统计摘要的新机制,称为 K-范数梯度机制(K-Norm Gradient Mechanism,KNG)。该方法保持了指数机制的强灵活性,同时实现了目标扰动的有力效用表现。KNG 从一个固有目标函数(通常为经验风险)出发,依据目标函数梯度离零的距离进行加权,从而偏好接近最小化该目标的摘要。使用梯度而非原始目标函数带来了额外灵活性,因为可使用不同范数进行惩罚。我们证明,与指数机制不同,对许多问题而言 KNG 所加噪声相较于统计误差在渐近意义下可忽略。除隐私与效用的理论保证外,我们还在线性与分位数回归设定下通过仿真证实了 KNG 的效用。
引用
@article{arxiv.1905.09436,
title = {KNG: The K-Norm Gradient Mechanism},
author = {Matthew Reimherr and Jordan Awan},
journal= {arXiv preprint arXiv:1905.09436},
year = {2021}
}
备注
14 pages, 2 figures, published in NeurIPS 33