SODA: 保护端侧机器学习模型中的专有信息
机器学习
2024-02-06 v1 密码学与安全
分布式、并行与集群计算
摘要
低端硬件的发展促使基于机器学习的服务在边缘应用中激增。这些应用收集用户的情境信息，并通过机器学习 (ML) 模型提供个性化推荐等服务。一种日益增长的做法是将此类 ML 模型部署在用户设备上，以降低延迟、保护用户隐私并减少对集中式数据源的持续依赖。然而，将 ML 模型部署在用户边缘设备上可能会泄露服务提供商的专有信息。在本研究中，我们考察了用于提供移动服务的端侧 ML 模型，并演示了简单的攻击如何泄露服务提供商的专有信息。我们表明，不同的对手可以轻易利用此类模型以实现利润最大化和完成内容窃取。出于阻止此类攻击的需要，我们提出了一个端到端框架 SODA，用于在边缘设备上进行部署和服务，同时防御对抗性使用。我们的结果表明，SODA 能够在少于 50 次查询内以 89% 的准确率检测出对抗性使用，且对服务性能、延迟和存储的影响极小。
引用
@article{arxiv.2312.15036,
title = {SODA: Protecting Proprietary Information in On-Device Machine Learning Models},
author = {Akanksha Atrey and Ritwik Sinha and Saayan Mitra and Prashant Shenoy},
journal= {arXiv preprint arXiv:2312.15036},
year = {2024}
}