两方拆分学习中的标签泄露与保护

两方拆分学习是一种在按特征划分的数据上学习模型的流行技术。在这项工作中，我们探究在一方是否可能在拆分训练期间从另一方窃取私有标签信息，以及是否存在可抵御此类攻击的方法。具体而言，我们首先形式化了一个现实的威胁模型，并提出了一种隐私损失度量来量化拆分学习中的标签泄露。然后我们表明，在该威胁模型内存在两种简单而有效的方法，可使一方准确恢复另一方拥有的私有真实标签。为应对这些攻击，我们提出了几种随机扰动技术，包括 $\texttt{Marvell}$——一种通过最小化最坏情况攻击者的标签泄露量（通过我们的量化度量测量）来策略性地寻找噪声扰动结构的方法。我们通过实验证明了我们的保护技术针对已识别攻击的有效性，并表明 $\texttt{Marvell}$ 尤其具有相对于基线方法改进的隐私-效用权衡。