SEEK：针对混合安全推理协议的模型提取攻击
密码学与安全
2022-09-15 v1 机器学习
摘要
在预测即服务中使用的机器学习模型的安全问题包括模型、查询和结果的隐私。基于同态加密（HE）和/或多方计算（MPC）的安全推理方案已被开发出来以保护所有敏感信息。最高效的一类解决方案对线性层利用 HE，对非线性层利用 MPC。然而，对于此类具有半诚实安全性的混合协议， adversary 可以篡改推理过程中的中间特征，并且比针对明文推理服务的方法更有效地提取模型信息。在本文中，我们提出 SEEK，一种针对仅输出类别标签的混合安全推理服务的通用提取方法。该方法可以独立提取目标模型的每一层，且不受模型深度影响。对于 ResNet-18，SEEK 平均少于 50 次查询即可提取一个参数，平均误差小于 。
引用
@article{arxiv.2209.06373,
title = {SEEK: model extraction attack against hybrid secure inference protocols},
author = {Si Chen and Junfeng Fan},
journal= {arXiv preprint arXiv:2209.06373},
year = {2022}
}
备注
15 pages, 4 figures