多出口网络的成员泄露审计

基于并非所有输入都需要相同计算量即可产生高置信度预测这一事实，多出口网络正作为推动高效部署极限的一种重要方法而受到关注。多出口网络为主干模型配备早期出口，允许在模型的中间层获得预测，从而节省计算时间和/或能量。然而，当前各种多出口网络的设计仅被考虑以实现资源使用效率与预测精度之间的最佳权衡，由此产生的隐私风险从未被探索。这促使需要对多出口网络中的隐私风险进行全面调查。在本文中，我们通过成员泄露的视角对多出口网络进行了首次隐私分析。特别地，我们首先利用现有攻击方法来量化多出口网络对成员泄露的脆弱性。我们的实验结果表明，多出口网络较不易受成员泄露影响，且附加于主干模型的出口（数量与深度）与攻击性能高度相关。此外，我们提出了一种利用出口信息来提升现有攻击性能的混合攻击。我们在三种不同的对抗设定下评估了我们的混合攻击所造成的成员泄露威胁，最终得到一个无模型且无数据的对手。这些结果清楚地表明，我们的混合攻击具有非常广泛的适用性，因此相应风险比现有成员推断攻击所显示的更为严重。我们进一步提出了一种专为多出口网络设计的称为 TimeGuard 的防御机制，并表明 TimeGuard 完美缓解了新提出的攻击。