SoK：面向机器学习模型的数据重建攻击：定义、指标与基准
密码学与安全
2025-06-10 v1 机器学习
摘要
数据重建攻击旨在以有限访问权限恢复目标模型的训练数据集，近年来受到广泛关注。然而，目前尚无关于数据重建攻击的正式定义，或适用于衡量其质量的评估指标。这一缺乏严格定义和通用指标的局面阻碍了该领域的进一步发展。本文聚焦视觉领域，提出统一的攻击分类框架和数据重建攻击的正式定义。我们首先提出了一套定性评估指标，考虑quantifiability、consistency、precision和diversity等重要标准。此外，我们利用大型语言模型（LLM）作为人类判断的替代品，实现以视觉为导向的评估，强调高质量重建。借助我们提出的分类和指标，我们呈现了一个统一的框架，用于系统性地评估现有攻击的优势与局限，并为未来研究建立基准。实证结果，主要从记忆容量角度，不仅验证了我们指标的有效性，也为设计新型攻击提供了宝贵见解。
引用
@article{arxiv.2506.07888,
title = {SoK: Data Reconstruction Attacks Against Machine Learning Models: Definition, Metrics, and Benchmark},
author = {Rui Wen and Yiyong Liu and Michael Backes and Yang Zhang},
journal= {arXiv preprint arXiv:2506.07888},
year = {2025}
}
备注
To Appear in the 34th USENIX Security Symposium, August 13-15, 2025