视觉分类器的隐私保护特性

视觉分类器通常在包含敏感信息的专有数据集上训练，然而模型本身经常在隐私保护假设下被公开共享。尽管这些模型被假定能保护其训练数据中的敏感信息，但这一假设在不同架构下的成立程度尚未被探索。这一假设受到试图从模型权重重建训练数据的反演攻击的挑战，暴露了显著的隐私漏洞。在本研究中，我们系统地评估了视觉分类器在不同架构下的隐私保护特性，包括多层感知机（MLPs）、卷积神经网络（CNNs）和视觉Transformer（ViTs）。使用基于网络反演的重建技术，我们评估了这些架构记忆和泄露训练数据的程度，量化了跨模型重建的相对难易程度。我们的分析强调了架构差异，如输入表示、特征提取机制和权重结构，如何影响隐私风险。通过比较这些架构，我们识别出哪些对反演攻击更具弹性，并考察了模型性能与隐私保护之间的权衡，为开发用于敏感应用的安全且尊重隐私的机器学习模型做出贡献。我们的发现为设计安全和隐私感知的机器学习系统提供了可操作的见解，强调了在涉及专有或个人数据的敏感应用中评估架构决策的重要性。