ModelDiff：基于测试的 DNN 相似性比较用于模型复用检测
机器学习
2021-06-17 v1 人工智能
软件工程
摘要
深度学习模型的知识可能被迁移至学生模型，导致知识产权侵权或漏洞传播。检测此类知识复用并非易事，因为可疑模型可能非白盒可访问和/或服务于不同任务。本文中，我们提出 ModelDiff，一种基于测试的深度学习模型相似性比较方法。我们不直接比较两个模型的权重、激活或输出，而是比较它们在相同测试输入集上的行为模式。具体而言，一个模型的行为模式表示为决策距离向量(DDV)，其中每个元素是模型对一对输入的反应之间的距离。两个模型之间的知识相似性通过它们 DDV 的余弦相似性来度量。为评估 ModelDiff，我们创建了一个包含 144 对模型的基准，涵盖最流行的模型复用方法，包括迁移学习、模型压缩和模型窃取。我们的方法在基准上达到了 91.7% 的正确率，证明了使用 ModelDiff 进行模型复用检测的有效性。对移动端深度学习应用的研究显示了 ModelDiff 在真实世界模型上的可行性。
引用
@article{arxiv.2106.08890,
title = {ModelDiff: Testing-Based DNN Similarity Comparison for Model Reuse Detection},
author = {Yuanchun Li and Ziqi Zhang and Bingyan Liu and Ziyue Yang and Yunxin Liu},
journal= {arXiv preprint arXiv:2106.08890},
year = {2021}
}
备注
ISSTA 2021