面向序列到序列模型的成员推断攻击：我的数据是否在你的机器翻译系统中？
机器学习
2020-03-17 v2 计算与语言
机器学习
摘要
数据隐私是“机器学习即服务”提供商的一个重要问题。我们关注成员推断攻击问题：给定数据样本以及对模型 API 的黑盒访问权限，判断该样本是否存在于模型的训练数据中。我们的贡献是在序列到序列模型的背景下研究该问题，这类模型在机器翻译和视频字幕等应用中十分重要。我们定义了序列生成的成员推断问题，提供了基于最先进机器翻译模型的开放数据集，并报告了关于这些模型在多种成员推断攻击下是否泄露隐私信息的初步结果。
引用
@article{arxiv.1904.05506,
title = {Membership Inference Attacks on Sequence-to-Sequence Models: Is My Data In Your Machine Translation System?},
author = {Sorami Hisamoto and Matt Post and Kevin Duh},
journal= {arXiv preprint arXiv:1904.05506},
year = {2020}
}