秩重要：通过低秩特征过滤理解与防御模型反转攻击

模型反转攻击通过利用训练好的机器学习模型中嵌入的知识重建敏感训练样本，对数据隐私构成重大威胁。尽管近期在提升模型反转攻击于不同场景下的有效性方面取得了进展，但防御策略仍相对滞后，难以在模型效用与对日益复杂攻击的鲁棒性之间取得平衡。本文提出了理想反转误差来衡量隐私泄露程度，我们的理论与实证研究表明，高秩特征本质上更易导致隐私泄露。受此启发，我们提出了一种基于低秩特征过滤的轻量级且有效的防御策略，通过约束中间表示的维度来显式减少攻击面。跨多种模型架构和数据集的广泛实验表明，我们的方法持续优于现有防御手段，在应对多种模型反转攻击时达到了最先进的性能。值得注意的是，即使在涉及高分辨率数据和高容量模型的挑战性场景中，我们的方法仍然有效，而先前的防御方法无法提供充分保护。代码已开源：https://github.com/Chrisqcwx/LoFt。