句子嵌入泄露的信息超出你的预期：用于恢复完整句子的生成式嵌入反演攻击
计算与语言
2023-05-05 v1 密码学与安全
摘要
句子级表示有益于各种自然语言处理任务。人们普遍认为向量表示能够捕捉丰富的语言属性。当前，大语言模型（LLM）在句子嵌入上取得了最先进的性能。然而，近期一些工作表明来自 LLM 的向量表示可能导致信息泄露。本工作中，我们进一步探究信息泄露问题，并提出一种生成式嵌入反演攻击（GEIA），旨在仅基于句子嵌入重建输入序列。在黑盒访问语言模型的条件下，我们将句子嵌入视为初始词元表示，并训练或微调一个强大的解码器模型以直接解码整个序列。我们进行了大量实验，表明我们的生成式反演攻击在分类指标上优于以往的嵌入反演攻击，并生成与原始输入连贯且上下文相似的句子。
引用
@article{arxiv.2305.03010,
title = {Sentence Embedding Leaks More Information than You Expect: Generative Embedding Inversion Attack to Recover the Whole Sentence},
author = {Haoran Li and Mingshi Xu and Yangqiu Song},
journal= {arXiv preprint arXiv:2305.03010},
year = {2023}
}
备注
Findings of ACL 2023