（工业）联邦学习中的数据分布偏移作为隐私问题
机器学习
2024-09-24 v1 密码学与安全
摘要
我们考虑工业联邦学习，即少数强大且具有潜在竞争关系的工业参与者之间，在旨在改善其客户服务的第三方调解下进行的协作。我们认为这种配置潜藏着在跨设备等场景中不会出现的隐蔽隐私风险。公司非常注重保护其知识产权和生产过程。有关其生产变更及变更时间的信息应予保密。我们研究了一种场景，其中一名协作者通过检测潜在微妙的时间数据分布偏移来推断其竞争对手生产中的变更。在此框架下，数据分布偏移始终是个问题，即使它对训练收敛没有负面影响。因此，我们的目标是找到比惯用评估指标更好地检测分布偏移的方法。基于即使微小的偏移也会传递到协作学习的机器学习模型中的假设，攻击者利用文献中的多种指标跟踪共享模型的内部状态，以捕捉相关变化。在对基准数据集的实证研究中，我们展示了一个诚实但好奇的攻击者能够检测到其他客户端上微妙的分布偏移，在某些情况下，这远早于这些偏移在评估中变得明显之时。
引用
@article{arxiv.2409.13875,
title = {Data Distribution Shifts in (Industrial) Federated Learning as a Privacy Issue},
author = {David Brunner and Alessio Montuoro},
journal= {arXiv preprint arXiv:2409.13875},
year = {2024}
}