分割学习中因训练顺序导致的脆弱性
机器学习
2021-03-29 v1
摘要
分割学习（SL）是一种保护隐私的分布式深度学习方法，用于训练协作模型而无需在客户端之间共享患者原始数据。在分割学习中，可引入一种称为no-peek算法的额外隐私保护算法，其对对抗攻击具有鲁棒性。分割学习所提供的隐私优势使其适用于医疗领域。然而，分割学习算法存在缺陷，因为协作模型是顺序训练的，即一个客户端训练完后再训练下一个。我们指出，使用分割学习算法训练的模型会偏向一轮训练中靠后使用的客户端数据，这使得SL算法极易受客户端训练顺序的影响。我们证明，使用所有客户端数据训练的模型，在一轮中最早被用于训练模型的客户端数据上表现不佳。此外，我们表明该效应随客户端数量增加而更显著。我们还证明SplitFedv3算法在仍利用分割学习所提供的隐私优势的同时，缓解了此问题。
引用
@article{arxiv.2103.14291,
title = {Vulnerability Due to Training Order in Split Learning},
author = {Harshit Madaan and Manish Gawali and Viraj Kulkarni and Aniruddha Pant},
journal= {arXiv preprint arXiv:2103.14291},
year = {2021}
}