FOOGD:面向稀疏化推广与检测的联邦协作
机器学习
2024-10-24 v2
摘要
联邦学习是一种能够与客户端模型协作以捕获全局知识的有前景的机器学习范式。然而,由于 in-distribution 数据与意外的 out-of-distribution(OOD)数据(如协变量漂移和语义漂移数据)的共存,deployed FL模型在现实场景中仍不可靠。当前FL研究通常通过 OOD 推广来处理协变量漂移数据,或通过 OOD 检测来处理语义漂移数据,忽略了各种 OOD 漂移的同时发生。在本工作中,我们提出了 FOOGD,一种方法估计每个客户端的概率密度并获得可靠的全局分布作为指导,以进行随后的 FL过程。首先,FOOGD 中的 SM3D 估计任意分布的 score model 而无需先验约束,强大的检测语义漂移数据。然后,FOOGD 中的 SAG 为 local 协变量漂移推广和 client 性能推广提供了不变且多样化的知识。在实证验证中,FOOGD 显著享有三个主要优势:(1)可靠地估计非标准化的去中心化分布,(2)通过 score 值检测语义漂移数据,(3)通过正则化特征提取器对协变量漂移数据进行推广。该项目开源于 https://github.com/XeniaLLL/FOOGD-main.git。
引用
@article{arxiv.2410.11397,
title = {FOOGD: Federated Collaboration for Both Out-of-distribution Generalization and Detection},
author = {Xinting Liao and Weiming Liu and Pengyang Zhou and Fengyuan Yu and Jiahe Xu and Jun Wang and Wenjie Wang and Chaochao Chen and Xiaolin Zheng},
journal= {arXiv preprint arXiv:2410.11397},
year = {2024}
}
备注
NeurIPS 2024