基于句法引导的文本到文本隐私化
计算与语言
2023-06-05 v1 密码学与安全
机器学习
摘要
度量差分隐私是差分隐私的一种推广，旨在应对文本到文本隐私化所特有的挑战。通过在词嵌入的几何空间表示中添加噪声，词被替换为位于含噪表示邻近位置的词。由于嵌入是基于词共现训练的，该机制确保替换源于共同的语义上下文。然而，若不考虑词的语法范畴，该机制无法保证替换扮演相似的句法角色。我们分析了文本到文本隐私化在替换后保留词语法范畴的能力，发现替代文本几乎完全由名词构成。由于缺乏生成与敏感文本结构相关的替代文本的能力，我们将分析扩展为把隐私化步骤转化为候选选择问题，其中替换被引导至具有匹配语法属性的词。我们展示了在保持可比隐私保证的同时，下游任务性能提升高达。
引用
@article{arxiv.2306.01471,
title = {Guiding Text-to-Text Privatization by Syntax},
author = {Stefan Arnold and Dilara Yesilbas and Sven Weinzierl},
journal= {arXiv preprint arXiv:2306.01471},
year = {2023}
}