概念感知的隐私保护机制用于防御嵌入逆向攻击
密码学与安全
2026-02-10 v1 人工智能
摘要
文本嵌入支持众多NLP应用，但面临着嵌入逆向攻击带来的严重隐私风险，这些攻击可能暴露敏感属性或重建原始文本。现有的差分隐私防御假设嵌入维度具有统一的敏感性，导致噪声过大和效用下降。我们提出了SPARSE，一个用于文本嵌入中概念特定隐私保护的用户中心框架。SPARSE结合了（1）可微掩码学习，用于识别用户定义概念的隐私敏感维度，以及（2）马氏机制，该机制应用由维度敏感性校准的椭圆噪声。与传统的球形噪声注入不同，SPARSE选择性地扰动隐私敏感维度，同时保留非敏感语义。在六个数据集上使用三种嵌入模型和攻击场景进行评估，与最先进的DP方法相比，SPARSE在实现更优下游性能的同时，持续降低了隐私泄露。
引用
@article{arxiv.2602.07090,
title = {Concept-Aware Privacy Mechanisms for Defending Embedding Inversion Attacks},
author = {Yu-Che Tsai and Hsiang Hsiao and Kuan-Yu Chen and Shou-De Lin},
journal= {arXiv preprint arXiv:2602.07090},
year = {2026}
}