利用对抗样本防御基于机器学习的推断攻击：机遇与挑战
密码学与安全
2019-09-20 v2 机器学习
机器学习
摘要
随着机器学习（ML）变得愈发强大且易于获取，攻击者越来越多地利用 ML 在各种领域实施自动化的规模化推断攻击。在此类配备 ML 的推断攻击中，攻击者能够访问个体、软件或系统的某些数据（称为公开数据），并利用 ML 分类器自动推断其私有数据。推断攻击对个体和系统构成严重的隐私与安全威胁。推断攻击之所以成功，是因为私有数据与公开数据在统计上相关，而 ML 分类器能够捕捉此类统计相关性。在本章中，我们讨论利用对抗样本防御配备 ML 的推断攻击的机遇与挑战。我们的核心观察是：攻击者在推断攻击中依赖于 ML 分类器。对抗机器学习领域已表明 ML 分类器存在多种脆弱性。因此，我们可以将 ML 的脆弱性转化为抵御推断攻击的防御手段。例如，ML 分类器易受对抗样本攻击，对抗样本向正常样本添加精心构造的噪声，使得 ML 分类器按我们的期望对样本进行预测。为防御推断攻击，我们可向公开数据中添加精心构造的噪声，将其转化为对抗样本，从而使攻击者的分类器对私有数据做出错误预测。然而，现有构造对抗样本的方法尚不充分，因为它们未考虑在防御推断攻击时对所构造噪声的独特挑战与要求。在本章中，我们以防御在线社交网络中的推断攻击为例，阐明其中的机遇与挑战。
引用
@article{arxiv.1909.08526,
title = {Defending against Machine Learning based Inference Attacks via Adversarial Examples: Opportunities and Challenges},
author = {Jinyuan Jia and Neil Zhenqiang Gong},
journal= {arXiv preprint arXiv:1909.08526},
year = {2019}
}
备注
Book chapter. arXiv admin note: substantial text overlap with arXiv:1805.04810