LESS-VFL：面向纵向联邦学习的通信高效特征选择
机器学习
2023-05-04 v1 分布式、并行与集群计算
摘要
我们提出LESS-VFL，一种面向纵向划分数据的分布式系统的通信高效特征选择方法。我们考虑一个由服务器与若干参与方组成的系统，各参与方拥有本地数据集，这些数据集共享样本ID空间但具有不同特征集。参与方希望协作训练一个用于预测任务的模型。作为训练的一部分，参与方希望移除系统中的不重要特征，以提升泛化能力、效率与可解释性。在LESS-VFL中，经过短暂预训练期后，服务器优化其全局模型的部分以确定参与方模型的相关输出。该信息被共享给参与方，从而允许在无需通信的情况下进行本地特征选择。我们从解析上证明LESS-VFL可从模型训练中移除伪特征。我们提供了大量经验证据，表明LESS-VFL能以其他特征选择方法所需通信成本的一小部分实现高精度并移除伪特征。
引用
@article{arxiv.2305.02219,
title = {LESS-VFL: Communication-Efficient Feature Selection for Vertical Federated Learning},
author = {Timothy Castiglia and Yi Zhou and Shiqiang Wang and Swanand Kadhe and Nathalie Baracaldo and Stacy Patterson},
journal= {arXiv preprint arXiv:2305.02219},
year = {2023}
}
备注
Published in ICML 2023