面向非对齐数据样本和局部独立推断的新型垂直联邦学习框架——X-VFL
机器学习
2025-08-11 v2 计算机视觉与模式识别
分布式、并行与集群计算
最优化与控制
摘要
垂直联邦学习（VFL）通过整合来自多个客户/方舖的互不相同的特征子集来实现协作学习。然而，VFL 通常面临两个关键挑战：i）需要所有客户之间完美对齐的数据样本（不允许缺失特征）；ii）需要涉及所有客户的联合协作推断/预测（不支持在单个客户上进行本地独立推断）。为解决这些挑战，我们提出了 X-VFL，一种新的 VFL 框架，用于处理非对齐数据样本（具有（部分）缺失特征）并支持每个客户上独立的新数据样本推断。具体而言，我们在 X-VFL 中设计了两个新模块：Cross Completion（XCom）和 Decision Subspace Alignment（DS-Align）。XCom 可通过利用来自其他客户的信息来完成/重构非对齐数据样本的缺失特征。DS-Align 在决策子空间内将本地特征与已完成和全局特征对齐，从而在每个客户上实现本地独立推断。此外，我们为训练 X-VFL 所使用的不同算法提供了收敛定理，显示 SGD 类型算法的收敛率为 O(1/√T)，PAGE 类型算法的收敛率为 O(1/T)，其中 T 表示训练更新步骤的数量。大量在真实数据集上的实验表明，X-VFL 显著优于现有方法，例如在图像 CIFAR-10 数据集上实现准确率提升 15%，在医疗 MIMIC-III 数据集上实现提升 43%。这些结果验证了 X-VFL 在涉及部分缺失特征和本地独立推断场景下的实际有效性和优越性。
引用
@article{arxiv.2508.05568,
title = {X-VFL: A New Vertical Federated Learning Framework with Cross Completion and Decision Subspace Alignment},
author = {Qinghua Yao and Xiangrui Xu and Zhize Li},
journal= {arXiv preprint arXiv:2508.05568},
year = {2025}
}
备注
20 pages