模型反演鲁棒性：迁移学习能提供帮助吗？
机器学习
2024-05-10 v1 密码学与安全
计算机视觉与模式识别
摘要
模型反演（MI）攻击旨在通过滥用对机器学习模型的访问权限来重建私有训练数据。当代 MI 攻击已取得了令人瞩目的攻击性能，对隐私构成了严重威胁。同时，所有现有的 MI 防御方法都依赖于与训练目标直接冲突的正则化，导致模型效用显著下降。在这项工作中，我们采取不同的视角，提出了一种新颖且简单的基于迁移学习的模型反演防御（TL-DMI），以生成对 MI 具有鲁棒性的模型。具体而言，通过利用 TL，我们限制了从私有训练数据集中编码敏感信息的层数，从而降低了 MI 攻击的性能。我们使用 Fisher 信息进行了分析以证明我们方法的合理性。我们的防御方法实现起来非常简单。无需繁杂的额外设计，我们在大量实验中表明 TL-DMI 实现了 SOTA 的 MI 鲁棒性。我们的代码、预训练模型、演示和反演数据可在以下网址获取：https://hosytuyen.github.io/projects/TL-DMI
引用
@article{arxiv.2405.05588,
title = {Model Inversion Robustness: Can Transfer Learning Help?},
author = {Sy-Tuyen Ho and Koh Jun Hao and Keshigeyan Chandrasegaran and Ngoc-Bao Nguyen and Ngai-Man Cheung},
journal= {arXiv preprint arXiv:2405.05588},
year = {2024}
}