高鲁棒性、低可迁移性的神经网络指纹标识
机器学习
2021-05-18 v1 人工智能
密码学与安全
计算机视觉与模式识别
摘要
本文提出特征样本(Characteristic Examples)以有效指纹标识深度神经网络，其具有对基础模型针对模型剪枝的高鲁棒性，以及对非关联模型的低可迁移性。这是首个在生成真实指纹时同时考虑鲁棒性与可迁移性的工作，而现有方法缺乏实际假设并可能导致较大的误报率。为在鲁棒性与可迁移性之间实现更好的权衡，我们提出三类特征样本：原始 C-样本、RC-样本和 LTRC-样本，以从原始基础模型导出指纹。为公平刻画鲁棒性与可迁移性之间的权衡，我们提出唯一性得分(Uniqueness Score)，一种衡量鲁棒性与可迁移性差异的综合度量，其也可作为误报问题的指示器。
引用
@article{arxiv.2105.07078,
title = {High-Robustness, Low-Transferability Fingerprinting of Neural Networks},
author = {Siyue Wang and Xiao Wang and Pin-Yu Chen and Pu Zhao and Xue Lin},
journal= {arXiv preprint arXiv:2105.07078},
year = {2021}
}
备注
ICLR 2021 Workshop on Security and Safety in Machine Learning Systems