基于对数损失分数的标签推断攻击

对数损失（也称为交叉熵损失）度量在机器学习应用中被广泛用于评估分类算法的性能。在本文中，我们研究了在仅获得单个（或多个）对数损失分数、而对数据集无其他任何访问权限的情况下推断数据集标签的问题。令人惊讶的是，我们表明对于任意有限数量的标签类别，如果我们允许任意精度算术，则可以从单个精心构造的预测向量的报告对数损失分数准确推断数据集的标签。此外，我们提出了即使在向对数损失分数添加噪声以及有限精度算术下也能成功的标签推断算法（攻击）。我们所有的算法都依赖于数论和组合学的思想，且不需要模型训练。我们在一些真实数据集上进行了实验模拟，以证明在实践中运行这些攻击的容易程度。