DAMIA：利用域适应作为抵御成员推断攻击的防御手段
密码学与安全
2020-05-19 v1 人工智能
摘要
深度学习(DL)技术使人们能够从数据集训练模型以解决问题。鉴于其优异性能和潜在市场价值，DL引起了极大关注，而安全问题是最巨大的担忧之一。然而，DL模型可能易受成员推断攻击，即攻击者判断给定样本是否来自训练数据集。已有努力阻碍此类攻击，但不幸的是，它们可能导致较大开销或可用性受损。本文提出并实现DAMIA，利用域适应(DA)作为抵御成员推断攻击的防御。我们的观察是，在训练过程中，DA使用另一个相关数据集混淆待保护的数据集，并推导出从两个数据集中底层提取特征的模型。鉴于模型被混淆，成员推断失败，而提取的特征为可用性提供支持。我们进行了大量实验来验证直觉。DAMIA训练的模型对可用性的影响可忽略不计。我们的实验还排除了可能阻碍DAMIA性能的因素，为供应商和研究人员及时从我们的解决方案中获益提供了潜在指导。
引用
@article{arxiv.2005.08016,
title = {DAMIA: Leveraging Domain Adaptation as a Defense against Membership Inference Attacks},
author = {Hongwei Huang and Weiqi Luo and Guoqiang Zeng and Jian Weng and Yue Zhang and Anjia Yang},
journal= {arXiv preprint arXiv:2005.08016},
year = {2020}
}
备注
The article contains 14 pages and 9 figures, and is submitted to IEEE Transactions on Dependable and Secure Computing (TDSC)