VMask：基于层遮蔽的垂直联邦学习可调标签隐私保护框架

尽管垂直联邦学习（VFL）通常被认为是隐私保护的，但近期研究表明 VFL 系统对来自各种攻击面的标签推断攻击十分脆弱。在这些攻击中，模型完成（MC）攻击目前是最强大的一种。现有防御方法要么牺牲模型准确率，要么造成不可实际的计算开销。在本文中，我们提出了 VMask，一个新的标签隐私保护框架，旨在从层遮蔽的角度防御 MC 攻击。我们的关键思想是通过对攻击者模型中的层参数应用秘密共享（SS）技术来扰乱输入数据与中间输出之间的强相关性。我们设计了关键层遮蔽的策略，减少了对整个模型应用 SS 所导致的开销。此外，VMask 是首个提供可调隐私预算的框架，允许防御者根据实际需求灵活控制标签隐私的程度。我们构建了一个 VFL 系统，在其上实现了 VMask，并使用五种模型架构和 13 个不同模态的数据集进行了广泛评估，比较了 12 种其他防御方法。结果表明，VMask 在隐私-效用之间实现了最佳的权衡，成功地阻止了 MC 攻击（将标签推断准确率降至随机猜测水平），同时保持了模型性能（例如，在基于 Transformer 的模型中，VFL 模型准确率平均下降仅 0.09%）。VMask 的运行时性能是基于密码学的方法的 60,846 倍，仅在大型基于 Transformer 的模型中略高于标准 VFL 1.8 倍，这通常是可接受的。