FederatedTrust：一种可信联邦学习的解决方案
密码学与安全
2023-07-07 v2 人工智能
摘要
物联网(IoT)与边缘计算的快速扩展，因持有敏感信息的分布式数据孤岛的存在，给集中式机器学习与深度学习(ML/DL)方法带来挑战。为解决数据隐私问题，诸如联邦学习(FL)等协作且保护隐私的 ML/DL 技术应运而生。然而，仅确保数据隐私与性能是不够的，因为日益需要建立对模型预测的信任。现有文献提出了关于可信 ML/DL(不含数据隐私)的多种方法，将鲁棒性、公平性、可解释性和问责制视为重要支柱。尽管如此，仍需进一步研究以确定特别适用于 FL 模型的信任支柱与评估指标，并开发能计算 FL 模型可信水平的解决方案。本工作考察 FL 中评估可信性的现有需求，引入一个由六支柱(隐私、鲁棒性、公平性、可解释性、问责制和联邦)组成的综合分类法，以及用于计算 FL 模型可信度的超过 30 项指标。随后，基于分类法中确定的支柱与指标设计名为 FederatedTrust 的算法，以计算 FL 模型的可信分数。FederatedTrust 的原型被实现并集成到成熟 FL 框架 FederatedScope 的学习过程中。最后，使用 FederatedScope 的不同配置进行五项实验，以展示 FederatedTrust 在计算 FL 模型可信度方面的效用。三项实验采用 FEMNIST 数据集，两项利用 N-BaIoT 数据集，考虑真实世界 IoT 安全用例。
引用
@article{arxiv.2302.09844,
title = {FederatedTrust: A Solution for Trustworthy Federated Learning},
author = {Pedro Miguel Sánchez Sánchez and Alberto Huertas Celdrán and Ning Xie and Gérôme Bovet and Gregorio Martínez Pérez and Burkhard Stiller},
journal= {arXiv preprint arXiv:2302.09844},
year = {2023}
}