主动学习与模型提取之间的联系探究
机器学习
2019-11-21 v6 密码学与安全
机器学习
摘要
机器学习正日益被个人、研究机构和企业所使用。这导致了机器学习即服务（MLaaS）的激增——提供（a）学习模型的工具与资源，以及（b）访问模型的用户友好查询接口的云服务。然而，此类 MLaaS 系统引发了诸如模型提取的隐私担忧。在模型提取攻击中， adversary 恶意利用查询接口窃取模型。更确切地说，在模型提取攻击中，服务器持有的敏感或专有模型的一个良好近似，被仅通过查询接口与服务器交互的不诚实用户提取（即学习）出来。该攻击由 Tramer 等人在 2016 年 USENIX 安全研讨会上提出，其中展示了针对多种模型的实用攻击。我们认为，更好地理解模型提取攻击的有效性对于设计安全的 MLaaS 系统至关重要。为此，我们迈出了第一步：（a）形式化模型提取并讨论可能的防御策略，以及（b）在模型提取与成熟的主动学习领域之间建立类比。具体而言，我们展示了主动学习领域的最新进展可用于实现强大的模型提取攻击，并研究了可能的防御策略。
引用
@article{arxiv.1811.02054,
title = {Exploring Connections Between Active Learning and Model Extraction},
author = {Varun Chandrasekaran and Kamalika Chaudhuri and Irene Giacomelli and Somesh Jha and Songbai Yan},
journal= {arXiv preprint arXiv:1811.02054},
year = {2019}
}