FedLinear 中的协变不匹配问题处理
统计理论
2026-02-03 v1 机器学习
统计理论
摘要
联邦学习使机构能够在不共享原始数据的情况下协同训练预测模型，解决了隐私和监管约束问题。在标准的水平设置下，客户端持有不同个体的离散队列并协作学习共享预测器。然而，大多数现有方法假设所有客户端测量相同的特征。我们研究更现实的情境，即协变不匹配，每个客户端观察不同的特征子集，这通常源于多中心合作且无数据收集事前一致的情况。我们在客户端级 MCAR 模式下形式化线性预测学习，并开发了两个模块化方法，针对维数 regime 和通信预算。 在低维设置下，我们提出一种插拔估计器，通过聚合充分统计量来估计协方差和交叉矩项，以逼近 oracle 线性预测器。在高维情况下，我们研究一种插补后回归策略：(i) 使用任何保持交换性的插补程序进行插补，(ii) 在完成的数据上拟合岭正则化线性模型。我们提供渐近学习率和有限样本学习率，明确刻画其与全局维数、客户端特定特征分区以及样本在不同站点分布的行为。
引用
@article{arxiv.2602.02083,
title = {Handling Covariate Mismatch in Federated Linear Prediction},
author = {Alexis Ayme and Rémi Khellaf},
journal= {arXiv preprint arXiv:2602.02083},
year = {2026}
}