一种用于机器学习即服务推理低成本结果验证的生成式框架
密码学与安全
2024-04-26 v4 机器学习
摘要
机器学习（ML）日益增长的流行使其部署于多种敏感领域，由此引发了大量针对 ML 安全与隐私的研究。然而，在某些应用如增强/虚拟现实（AR/VR）中，外包 ML 任务的完整性验证更为关键——这一方面未受太多关注。现有方案如多方计算与基于证明的系统带来显著计算开销，使其不适用于实时应用。我们提出 Fides，一种用于机器学习即服务（MLaaS）推理实时完整性验证的新框架。Fides 具备一种新颖高效的蒸馏技术——贪心蒸馏迁移学习（Greedy Distillation Transfer Learning）——可在可信执行环境内动态蒸馏并微调一个空间与计算高效的验证模型，以验证相应的服务模型。Fides 具备客户端攻击检测模型，利用统计分析与散度度量以高概率识别服务模型是否遭受攻击。Fides 还提供再分类功能，在识别到攻击时预测原始类别。我们设计了一个生成对抗网络（GAN）框架用于训练攻击检测与再分类模型。评估显示 Fides 的攻击检测准确率高达 98%，再分类准确率达 94%。
引用
@article{arxiv.2304.00083,
title = {A Generative Framework for Low-Cost Result Validation of Machine Learning-as-a-Service Inference},
author = {Abhinav Kumar and Miguel A. Guirao Aguilera and Reza Tourani and Satyajayant Misra},
journal= {arXiv preprint arXiv:2304.00083},
year = {2024}
}
备注
15 pages, 12 figures