基于相似度分布的人员重识别成员推断攻击
密码学与安全
2024-03-21 v1 计算机视觉与模式识别
摘要
尽管人员重识别（Re-ID）因广泛的现实应用而快速发展，它也造成了训练数据泄露个人信息的严重风险。因此，本文聚焦于通过成员推断（MI）攻击来量化该风险。现有多数 MI 攻击算法针对分类模型，而 Re-ID 遵循完全不同的训练与推理范式。Re-ID 是一项具有复杂特征嵌入的细粒度识别任务，现有 MI 常用的模型输出（如 logits 与损失）在推理时不可得。由于 Re-ID 关注建模图像对之间的相对关系而非个体语义，我们进行了形式化与实证分析，验证了训练集与测试集间样本间相似度的分布偏移是 Re-ID 成员推断的关键判据。据此，我们提出了一种基于样本间相似度分布的新型成员推断攻击方法。具体而言，采样一组锚图像来表示以目标图像为条件的相似度分布，并提出了一种带有新型锚选择模块的神经网络来预测目标图像的成员身份。我们的实验验证了所提方法在 Re-ID 任务与常规分类任务上的有效性。
引用
@article{arxiv.2211.15918,
title = {Similarity Distribution based Membership Inference Attack on Person Re-identification},
author = {Junyao Gao and Xinyang Jiang and Huishuai Zhang and Yifan Yang and Shuguang Dou and Dongsheng Li and Duoqian Miao and Cheng Deng and Cairong Zhao},
journal= {arXiv preprint arXiv:2211.15918},
year = {2024}
}
备注
9 pages, 7 figures, Accepted by AAAI 2023