对训练浅层神经网络的可证明隐私攻击
机器学习
2025-02-11 v2 密码学与安全
摘要
我们研究在训练好的 2 层 ReLU 神经网络上可以展示的可证明隐私攻击。我们探讨两种类型的攻击：数据重建攻击和成员推断攻击。我们证明，2 层神经网络的隐式偏差理论结果可用于在单变量情况下可证明地重建至少有常数比例为训练点的集合，并在高维情况下可用于以高概率识别给定点是否用于训练集。据我们所知，本工作是首次在该隐式偏差驱动的设置中展示可证明漏洞。
引用
@article{arxiv.2410.07632,
title = {Provable Privacy Attacks on Trained Shallow Neural Networks},
author = {Guy Smorodinsky and Gal Vardi and Itay Safran},
journal= {arXiv preprint arXiv:2410.07632},
year = {2025}
}