MixCon：调节数据表征的可分离性以加剧数据恢复难度
机器学习
2020-10-23 v1 密码学与安全
摘要
针对深度神经网络（DNNs）易受模型反演攻击的问题，我们设计了一个调节隐藏数据表征可分离性的目标函数，以此控制数据效用与反演攻击脆弱性之间的权衡。我们的方法受神经网络训练中数据可分离性理论见解及模型反演难度的结果所启发。经验上，通过调节数据表征的可分离性，我们展示了存在数据可分离性的甜点区，使得推理时难以恢复数据，同时保持数据效用。
引用
@article{arxiv.2010.11463,
title = {MixCon: Adjusting the Separability of Data Representations for Harder Data Recovery},
author = {Xiaoxiao Li and Yangsibo Huang and Binghui Peng and Zhao Song and Kai Li},
journal= {arXiv preprint arXiv:2010.11463},
year = {2020}
}