表格泄露：攻击LLM基于表格数据生成中的字符串记忆
机器学习
2026-05-12 v2 人工智能
摘要
大语言模型（LLM）近期在生成高质量表格合成数据方面展现了显著性能。在实践中，适应LLM进行表格数据生成主要有两种途径：（i）直接在表格数据集上微调较小模型；（ii）利用上下文提供的示例对较大模型进行提示。我们发现，这两种范式中的流行实现均倾向于通过复现训练数据中记忆的数字模式来损害隐私。为系统分析这一风险，我们提出了一种简单的无黑箱成员推断攻击（MIA）方法——LevAtt，该方法假设对抗者仅能访问生成的合成数据，并针对合成观测中数字字符串序列进行攻击。利用该方法，我们的攻击在广泛范围的模型和数据集上揭示了显著的隐私泄露，在某些情况下甚至能在最先进模型上实现完美的成员分类器。我们的发现揭示了基于LLM的合成数据生成所特有的一种隐私脆弱性，以及对有效防御手段的需求。为此，我们提出了两种方法，包括一种在生成过程中策略性地扰动数字的新型采样策略。我们的评估表明，该方法能在合成数据保真度和效用仅有最小损失的情况下抵御这些攻击。
关键词
引用
@article{arxiv.2512.08875,
title = {When Tables Leak: Attacking String Memorization in LLM-Based Tabular Data Generation},
author = {Joshua Ward and Bochao Gu and Chi-Hua Wang and Guang Cheng},
journal= {arXiv preprint arXiv:2512.08875},
year = {2026}
}