基于 Intel SGX 的推荐系统横向联邦学习与安全分布式训练
机器学习
2022-07-13 v1 人工智能
信息检索
摘要
随着大数据时代的到来以及人工智能等技术的发展，数据安全与隐私保护变得愈发重要。推荐系统在我们的社会中有诸多应用，但推荐系统的模型构建往往离不开用户数据。尤其对于基于深度学习的推荐系统，由于模型的复杂性与深度学习自身的特性，其训练过程不仅需要较长的训练时间与丰富的计算资源，还需使用大量用户数据，这在数据安全与隐私保护方面构成了相当大的挑战。如何在保证数据安全的同时训练分布式推荐系统已成为亟待解决的问题。本文基于可信执行环境的一种实现 Intel SGX（Software Guard Extensions）以及 TensorFlow 框架，实现了横向联邦学习与安全分布式训练两种方案，以在不同场景下达成安全的、基于分布式推荐系统的学习方案。我们在经典的深度学习推荐模型（DLRM）上进行了实验，该模型是一种为个性化与推荐设计的基于神经网络的机器学习模型，结果表明我们的实现在模型性能上几乎无损失。训练速度处于可接受范围内。
引用
@article{arxiv.2207.05079,
title = {Horizontal Federated Learning and Secure Distributed Training for Recommendation System with Intel SGX},
author = {Siyuan Hui and Yuqiu Zhang and Albert Hu and Edmund Song},
journal= {arXiv preprint arXiv:2207.05079},
year = {2022}
}
备注
5 pages, 8 figures