Tab-MIA：面向LLMs表格数据的成员推断攻击基准数据集
密码学与安全
2025-07-24 v1 计算与语言
摘要
大语言模型(LLMs)正越来越多地用于训练表格数据，而与非结构化文本不同，表格数据常以高度结构化和显式的格式包含可识别个人信息(PII)。因此，隐私风险随之出现，因为敏感记录可能被模型意外保留，并通过数据提取或成员推断攻击(MIA)公开。虽然现有的MIA方法主要针对文本内容，但其有效性和威胁含义在应用于结构化数据时可能不同，这取决于其有限的内容、多样的数据类型、独特的值分布以及列级语义。在本文中，我们提出了Tab-MIA，这是一个用于评估LLMs表格数据MIA的基准数据集，并演示了如何使用它。Tab-MIA包含五个数据集合，每个集合以六种不同的编码格式表示。通过我们的Tab-MIA基准，我们对了最先进的MIA方法在LLMs使用表格数据进行微调后在多种编码格式下的应用进行了首次评估。在评估中，我们分析了预训练LLMs对来自维基百科表格的结构化数据的记忆行为。我们的发现表明，LLMs对表格数据的记忆方式会因编码格式而异，使其对通过MIA的提取具有脆弱性。即使仅进行三个纪元的微调，模型也显示出高度脆弱性，大多数情况下AUROC分数接近90%。Tab-MIA使我们能够系统性地评估这些风险，并为LLMs中的表格数据隐私保护方法提供了基础。
引用
@article{arxiv.2507.17259,
title = {Tab-MIA: A Benchmark Dataset for Membership Inference Attacks on Tabular Data in LLMs},
author = {Eyal German and Sagiv Antebi and Daniel Samira and Asaf Shabtai and Yuval Elovici},
journal= {arXiv preprint arXiv:2507.17259},
year = {2025}
}