鲁棒成员编码：深度学习中的推断攻击与版权保护
图像与视频处理
2019-11-04 v1 计算机视觉与模式识别
机器学习
摘要
机器学习即服务（MLaaS）与算法市场正在兴起。数据持有者可使用第三方提供的学习代码轻松在其数据上训练复杂模型。训练准确的 ML 模型需要海量标注数据与先进学习算法。所得模型被视为模型所有者的知识产权，其版权应受保护。同时，MLaaS 需被信任不会将有关训练数据的秘密信息嵌入模型，以免在模型部署后被提取。本文提出用于训练深度神经网络并编码成员信息（即某数据点是否用于训练）的成员编码方法，适用于训练数据的子集。成员编码在不同场景中有若干应用，包括用于模型版权保护的鲁棒水印，以及隐蔽数据嵌入隐私攻击的风险分析。我们的编码算法可判定经大幅删改数据点的成员身份，且对模型压缩与微调具有鲁棒性。它还能对训练集的显著比例进行编码，而模型预测精度下降可忽略。
引用
@article{arxiv.1909.12983,
title = {MGBPv2: Scaling Up Multi-Grid Back-Projection Networks},
author = {Pablo Navarrete Michelini and Wenbin Chen and Hanwen Liu and Dan Zhu},
journal= {arXiv preprint arXiv:1909.12983},
year = {2019}
}
备注
In ICCV 2019 Workshops. Winner of Perceptual track in AIM Extreme Super-Resolution Challenge 2019. Code available at https://github.com/pnavarre/mgbpv2