可学习性锁:通过对抗可逆变换实现受控可学习性授权
机器学习
2022-02-09 v1 人工智能
密码学与安全
计算机视觉与模式识别
摘要
在很大程度上得益于信息技术的革命,深度学习的近期进展极大地受益于以各种数字格式广泛增强的数据获取能力。然而,在某些场景下,人们可能不希望自己的数据被用于训练商业模型,因而研究了如何攻击深度学习模型的可学习性。先前关于可学习性攻击的工作仅考虑了防止对特定数据集的未授权利用这一目标,而未考虑在授权情况下恢复可学习性的过程。为解决此问题,本文引入并研究了一个称为“可学习性锁”的新概念,用于通过特殊密钥控制模型在特定数据集上的可学习性。具体而言,我们提出对抗可逆变换,可视为从图像到图像的映射,对数据样本进行轻微修改,使其对机器学习模型变得“不可学习”,同时视觉特征损失可忽略。同时,使用者可利用相应密钥解锁该数据集的可学习性并正常训练模型。所提出的可学习性锁利用类级扰动,对相同标签的数据样本施加通用变换函数。这确保了可学习性可通过简单的逆变换轻松恢复,同时难以被检测或逆向工程。我们在视觉分类任务上通过实验证明了我们方法的成功性与实用性。
引用
@article{arxiv.2202.03576,
title = {Learnability Lock: Authorized Learnability Control Through Adversarial Invertible Transformations},
author = {Weiqi Peng and Jinghui Chen},
journal= {arXiv preprint arXiv:2202.03576},
year = {2022}
}
备注
Accepted at ICLR 2022