词嵌入及其之上的成员推断
计算与语言
2021-06-23 v1 人工智能
密码学与安全
机器学习
摘要
在文本处理语境中，大多数机器学习模型构建于词嵌入之上。这些嵌入本身在某些数据集上训练，可能包含敏感数据。在某些情况下该训练独立进行，在其他情况下则作为训练更大的任务特定模型的一部分发生。无论哪种情况，考虑基于嵌入层的成员推断攻击以理解敏感信息泄露都很有意义。但有些令人惊讶的是，针对词嵌入的成员推断攻击及其在使用这些嵌入的其他自然语言处理（NLP）任务中的影响，仍相对未被探索。本工作中，我们表明在现实假设下词嵌入易受黑盒成员推断攻击。此外，我们表明该泄露通过另两个主要NLP应用持续存在：分类与文本生成，即使嵌入层未暴露给攻击者。我们表明我们的成员推断（MI）攻击对分类器模型与基于LSTM的语言模型实现了高攻击准确率。事实上，我们的攻击是一种针对文本生成模型的更廉价的成员推断攻击，其不需要目标模型的知识或任何作为影子模型的文本生成模型的昂贵训练。
引用
@article{arxiv.2106.11384,
title = {Membership Inference on Word Embedding and Beyond},
author = {Saeed Mahloujifar and Huseyin A. Inan and Melissa Chase and Esha Ghosh and Marcello Hasegawa},
journal= {arXiv preprint arXiv:2106.11384},
year = {2021}
}