利用高维高斯机制缓解针对回归模型的查询泛洪参数复制攻击
密码学与安全
2020-06-09 v3 机器学习
摘要
由机器学习算法驱动的公开智能服务易受模型提取攻击，此类攻击可通过公开查询窃取学习模型的机密信息。差分隐私（DP）被视为缓解该攻击的有前景技术。然而，我们发现当回归模型受当前 DP 方案保护时，该漏洞依然存在。我们展示攻击者可行查询泛洪参数复制（QPD）攻击，通过重复查询推断模型信息。为防御针对逻辑回归与线性回归模型的 QPD 攻击，我们提出一种新颖的高维高斯（HDG）机制，以在不中断既定服务的前提下防止未授权信息泄露。与已有工作不同，所提 HDG 机制将为不同查询及其结果动态生成隐私预算与随机噪声以增强混淆。此外，HDG 首次实现最优隐私预算分配，可自动确定在每一维度上依用户期望隐私级别所需添加的最小噪声量。我们利用真实世界数据集全面评估 HDG 性能，表明 HDG 在满足隐私要求的同时有效缓解 QPD 攻击。我们也准备向社区开源相关代码以资进一步研究。
引用
@article{arxiv.2002.02061,
title = {Mitigating Query-Flooding Parameter Duplication Attack on Regression Models with High-Dimensional Gaussian Mechanism},
author = {Xiaoguang Li and Hui Li and Haonan Yan and Zelei Cheng and Wenhai Sun and Hui Zhu},
journal= {arXiv preprint arXiv:2002.02061},
year = {2020}
}
备注
it has some mistakes. Since I submitted the paper for the first time, there were many mistakes in the paper. At the same time, I found a serious mistake in the content of the paper, so I thought it was inappropriate to publish it now after careful consideration.