Proto-EVFL: 通过双原型实现高度非对齐数据的增强型垂直联邦学习
机器学习
2025-07-31 v1 人工智能
摘要
在垂直联邦学习（VFL）中，多个企业通过利用大量本地非对齐样本来促进协作学习，以解决对齐样本稀缺的问题。然而，VFL 中不同方之间的非对齐样本可能高度类不平衡，导致特征表示不足和模型预测空间受限。具体而言，类不平衡问题包括局部方类不平衡和跨方类不平衡，分别可导致局部模型偏差和特征贡献不一致。为了解决上述挑战，我们提出 Proto-EVFL，通过双原型实现增强 VFL。我们首先为每个方引入类原型，以学习潜在空间中类之间的关系，使主动方能够预测未见类。我们进一步设计了基于类先验概率的条件最优传输成本的概率双原型学习方案，以动态选择非对齐样本。此外，一个混合先验引导模块通过结合局部和全局类先验概率来指导此选择过程。最后，我们采用自适应门控特征聚合策略，通过动态加权和聚合不同方的本地特征来缓解特征贡献不一致问题。我们证明，Proto-EVFL 作为 VFL 中的第一个双层优化框架，收敛速率为 1/\sqrt{T}。在各种数据集上的大量实验验证了 Proto-EVFL 的优势。即使在一个只有一个未见类的零样本场景下，它也至少优于基线方法 6.97%。
引用
@article{arxiv.2507.22488,
title = {Proto-EVFL: Enhanced Vertical Federated Learning via Dual Prototype with Extremely Unaligned Data},
author = {Wei Guo and Yiyang Duan and Zhaojun Hu and Yiqi Tong and Fuzhen Zhuang and Xiao Zhang and Jin Dong and Ruofan Wu and Tengfei Liu and Yifan Sun},
journal= {arXiv preprint arXiv:2507.22488},
year = {2025}
}