线性回归的私密草稿
机器学习
2025-12-01 v2 机器学习
摘要
线性回归在诸多领域中被广泛应用,其中一些领域可能包含敏感信息。这要求这些方法的应用不泄露私人信息。差分隐私(DP)线性回归方法已被开发出来用于此目的,计算这些方法的私有解的估计。这些技术通常涉及计算解向量的噪声版本。相反,我们提出释放数据的私密草稿版本,然后可用于计算回归问题的近似解。这一构想源于“草稿-求解”范例,即在数据集的较小草稿上解决回归问题,而非在原始问题空间上解决。可以在草稿上获得的解也可证明对原始问题具有良好的近似保证。各种草稿方法已开发用于提高线性回归问题在该范例下的计算效率。我们在此范例下用于释放数据的私密草稿。我们为最小二乘回归以及最小绝对偏差回归构建差分隐私草稿。我们表明隐私约束导致草稿版的正则化回归。我们计算正则化参数的下界,以保证隐私。这些私密草稿的可用性促进了使用常用回归求解器进行求解,而无需担心隐私泄露。
引用
@article{arxiv.2511.07365,
title = {Private Sketches for Linear Regression},
author = {Shrutimoy Das and Debanuj Nayak and Anirban Dasgupta},
journal= {arXiv preprint arXiv:2511.07365},
year = {2025}
}
备注
13 pages