Amalgam: 一种用于云端混淆神经网络训练的框架
机器学习
2024-10-29 v2 密码学与安全
系统与控制
系统与控制
摘要
在云端使用专有数据集训练专有神经网络模型存在将模型架构和数据集暴露给云服务提供商的风险。为解决此问题，本文提出了一种神经网络混淆框架，称为Amalgam，用于在现有云环境中以保护隐私的方式训练神经网络模型。Amalgam通过向神经网络模型和用于训练的数据集添加经过良好校准的噪声来实现这一点，以向云端“隐藏”原始模型架构和训练数据集。训练后，Amalgam从增强模型中提取原始模型并将其返回给用户。我们使用不同的计算机视觉和自然语言处理模型及数据集进行的评估结果表明，Amalgam：(i) 在训练过程中引入了适度的开销，但不影响其正确性；(ii) 不影响模型的准确性。原型实现可在以下网址获取：https://github.com/SifatTaj/amalgam
引用
@article{arxiv.2406.03405,
title = {Amalgam: A Framework for Obfuscated Neural Network Training on the Cloud},
author = {Sifat Ut Taki and Spyridon Mastorakis},
journal= {arXiv preprint arXiv:2406.03405},
year = {2024}
}