多语言语言模型的文本嵌入反转安全性研究

在自然语言处理中，文本数据通常表示为实数嵌入，尤其是随着大型语言模型（LLMs）和嵌入即服务（EaaS）的普及。然而，将敏感信息存储为嵌入可能容易遭受安全漏洞攻击，因为研究表明，即使不了解底层模型，文本也可以从嵌入中重建。虽然已有防御机制被探索，但这些机制仅专注于英语，使得其他语言可能暴露于攻击之下。本工作通过多语言嵌入反转探索了LLM的安全性。我们定义了黑盒多语言和跨语言反转攻击问题，并探讨了其潜在影响。我们的发现表明，多语言LLM可能更容易受到反转攻击，部分原因是基于英语的防御措施可能无效。为了缓解这一问题，我们提出了一种简单的掩码防御方法，对单语言和多语言模型均有效。本研究是首次调查多语言反转攻击，揭示了单语言和多语言环境下攻击与防御的差异。