基于特征空间扰动的图像修复未授权蒸馏防御
计算机视觉与模式识别
2025-10-13 v1
摘要
知识蒸馏（KD）攻击对深度模型的知识产权构成严重威胁，使对手能够使用教师模型的输出来训练学生网络。虽然近期在图像分类领域的防御措施成功地通过扰动输出概率来破坏KD，但将这些方法扩展到图像修复任务面临较大挑战。与分类不同，修复是具有生成性质的任务，输出为连续的、高维的数据，依赖于空间一致性和细节。较小的扰动往往不足以起到防御作用，因为学生仍然可以学习底层映射。为此，我们提出了自适应奇异值扰动（ASVP），这是一种针对图像修复模型的运行时防御方法。ASVP作用于教师的内部特征图，通过奇异值分解（SVD）放大前k个奇异值，以注入结构化的高频扰动，干扰蒸馏所需的对齐。这会阻碍学生的学习，同时保持教师的输出质量。我们在五个图像修复任务上评估了ASVP：超分辨率、低光增强、 underwater 增强、去雾和去雨。实验表明，ASVP可使学生的 PSNR下降最高可达4 dB，SSIM下降60%-75%，对教师性能几乎没有影响。与以前的方法相比，ASVP提供了更强大且更一致的防御。我们的做法为保护开源修复模型免受未授权知识蒸馏提供了实际解决方案。
引用
@article{arxiv.2510.08925,
title = {Defense against Unauthorized Distillation in Image Restoration via Feature Space Perturbation},
author = {Han Hu and Zhuoran Zheng and Chen Lyu},
journal= {arXiv preprint arXiv:2510.08925},
year = {2025}
}