黑箱内部：检测预训练语言编码器中的数据泄漏
计算与语言
2024-08-21 v1
摘要
尽管在自然语言处理（NLP）领域广泛应用，但预训练语言模型因基于大规模网络爬虫数据训练，本质上携带着隐私和版权顾虑。本文系统性地探讨了预训练语言编码器所潜在的风险，具体focus于通过基于预训练语言编码器的下游模型所暴露的预训练数据成员泄漏——这一方面在现有文献中 largely 被忽视。我们的研究涵盖四种类型的预训练编码器架构、三个具有代表性的下游任务以及五个基准数据集。令人惊讶的是，我们的评估首次揭示了即使仅暴露下游模型的黑箱输出，仍存在成员泄漏，这一隐私风险远超之前的假设。此外，我们提供了深入的分析与洞见，旨为指导未来的研究者和实践者在开发预训练语言模型时考虑隐私问题。
引用
@article{arxiv.2408.11046,
title = {Inside the Black Box: Detecting Data Leakage in Pre-trained Language Encoders},
author = {Yuan Xin and Zheng Li and Ning Yu and Dingfan Chen and Mario Fritz and Michael Backes and Yang Zhang},
journal= {arXiv preprint arXiv:2408.11046},
year = {2024}
}
备注
ECAI24