嵌入攻击项目（工作报告）
机器学习
2024-01-26 v1 密码学与安全
摘要
本报告总结了嵌入攻击项目的所有成员推理攻击 (MIA) 实验，包括威胁模型、实验设置、实验结果、发现和讨论。当前结果涵盖了对 6 个从计算机视觉到语言建模的 AI 模型上两种主要 MIA 策略（基于损失和基于嵌入的 MIA）的评估。目前有两个正在进行的实验，分别关于 MIA 防御和邻域比较嵌入攻击。这些是正在进行的项目。当前关于 MIA 和 PIA 的工作可以总结为六个结论：(1) 过拟合程度与模型的脆弱性成正比；(2) 模型中较早的嵌入层不易受到隐私泄露的影响；(3) 更深的模型层包含更多的成员信息；(4) 如果嵌入和相应的训练标签都被泄露，模型更容易受到 MIA 攻击；(5) 可以使用伪标签来提高 MIA 成功率；(6) 尽管 MIA 和 PIA 成功率成正比，但降低 MIA 并不一定会降低 PIA。
引用
@article{arxiv.2401.13854,
title = {Embedding Attack Project (Work Report)},
author = {Jiameng Pu and Zafar Takhirov},
journal= {arXiv preprint arXiv:2401.13854},
year = {2024}
}
备注
13 pages, 5 figures