中文

差分隐私逻辑回归中的精度提升:一种预训练方法

机器学习 2024-02-13 v3 密码学与安全

摘要

机器学习(ML)模型可能会记忆训练数据集。因此,在私有数据集上训练 ML 模型可能导致个人隐私泄露。差分隐私(DP)是一种严格的隐私概念,用于保护底层训练数据集的隐私。然而,在 DP 框架下训练 ML 模型通常会降低模型的精度。本文旨在通过预训练模块提升 DP 逻辑回归(LR)的精度。具体而言,我们首先在一个无隐私顾虑的公开训练数据集上预训练 LR 模型,随后使用私有数据集对 DP-LR 模型进行微调。数值结果表明,添加预训练模块显著提升了 DP-LR 模型的精度。

关键词

引用

@article{arxiv.2307.13771,
  title  = {Accuracy Improvement in Differentially Private Logistic Regression: A Pre-training Approach},
  author = {Mohammad Hoseinpour and Milad Hoseinpour and Ali Aghagolzadeh},
  journal= {arXiv preprint arXiv:2307.13771},
  year   = {2024}
}