面向时序数据的私有垂直联邦推理
机器学习
2026-05-12 v1 密码学与安全
分布式、并行与集群计算
摘要
机构可从受隐私保护的时序数据中受益于协同推理。在隐私必要的情景下，多方计算 (MPC) 是提供强保障的直接方法，然而其仍昂贵且随现代 transformer 架构规模而扩展不佳。垂直联邦学习 (VFL) 提供效率优势，但在嵌入层面存在隐私泄露风险，将整个 VFL 模型头通过 MPC 加密仍难以实现大型模型的快速和低通信成本。为实现大规模安全推理的实用性与安全性，我们提出“公共/私有混合头-VFL” (PPHH-VFL)。该混合架构将模型头划分为高效的明文公共头和安全轻量级 MPC 私有头。通过对公共嵌入进行对抗训练，我们缓解了隐私泄露；同时，小型私有头安全地保留了对高下游效用的敏感信息流。我们在参数规模达 8600 万的模型上进行经验评估，表明 PPHH-VFL 在端到端 MPC 推理速度上快至最高可达六个数量级。相较于标准 VFL+MPC 基线，本方法在规模和通信成本上显著优越，在 WAN 环境下加速最高可达 44.4 倍，通信成本降低 91.2 倍（每批次从 1.7 GB 降至 19 MB），同时在下游分类准确率提升 2.50%，回归 RMSE 降低 40.7%。
引用
@article{arxiv.2605.08343,
title = {Private Vertical Federated Inference for Time-Series},
author = {Lucas Fenaux and Larris Xie and Aditya Bang and Alex Zhang and Kevin Wilson and Florian Kerschbaum},
journal= {arXiv preprint arXiv:2605.08343},
year = {2026}
}