基于实例编码的私有学习是否可行？
密码学与安全
2021-04-29 v2 计算机视觉与模式识别
机器学习
摘要
私有机器学习算法在尽可能隐藏其训练数据的同时仍保持准确率。在这项工作中，我们研究是否可以通过依赖实例编码机制（在将训练输入馈入普通学习器之前对其进行修改）使非私有学习算法变得私有。我们通过提供两种攻击模型形式化了实例编码的概念及其隐私性。我们首先证明了实现一种（更强的）模型的不可能性结果。接着，我们在第二种（更弱的）攻击模型下展示了对 InstaHide 的实用攻击，InstaHide 是 Huang、Song、Li 与 Arora [ICML'20] 近期提出的旨在通过实例编码实现隐私的方案。
引用
@article{arxiv.2011.05315,
title = {Is Private Learning Possible with Instance Encoding?},
author = {Nicholas Carlini and Samuel Deng and Sanjam Garg and Somesh Jha and Saeed Mahloujifar and Mohammad Mahmoody and Shuang Song and Abhradeep Thakurta and Florian Tramer},
journal= {arXiv preprint arXiv:2011.05315},
year = {2021}
}