恶意分类器：边缘计算中推断时数据重建风险的评估
机器学习
2024-10-02 v3 密码学与安全
信息论
math.IT
摘要
边缘计算范式中的隐私保护推断鼓励机器学习服务的用户在其私有输入上本地运行模型，并仅与服务器共享针对目标任务的模型输出。我们研究恶意服务器如何仅通过观察模型输出重建输入数据，同时通过联合训练目标模型（在用户侧运行）与用于数据重建的攻击模型（在服务器侧秘密使用）使目标精度非常接近诚实服务器。我们提出一种新度量来评估推断时重建风险。在六个基准数据集上的评估表明，模型的输入可从单次推断的输出中被近似重建。我们提出一种初级防御机制，以在推断时区分恶意与诚实分类器。通过研究与新兴 ML 服务相关的此类风险，我们的工作对增强边缘计算中的隐私具有启示意义。我们讨论了开放挑战与未来研究方向，并在 https://github.com/mmalekzadeh/vicious-classifiers 发布代码作为社区基准。
引用
@article{arxiv.2212.04223,
title = {Vicious Classifiers: Assessing Inference-time Data Reconstruction Risk in Edge Computing},
author = {Mohammad Malekzadeh and Deniz Gunduz},
journal= {arXiv preprint arXiv:2212.04223},
year = {2024}
}
备注
Published at BMVC 2024 workshop on Privacy, Fairness, Accountability and Transparency in Computer Vision