量化神经网络的安全评估

我们在本文中研究两个问题：首先，我们探问主流机器学习框架（如TensorFlow或PyTorch）在多大程度上已支持“MPC友好”的模型。先前工作提供的协议仅适用于定点整数和专用激活函数，这两方面均不受流行机器学习框架支持，且对这些专用模型表示的需求意味着很难（且通常不可能）使用例如TensorFlow来设计、训练和测试随后需安全评估的模型。其次，我们探问通用MPC框架中用于评估神经网络的功能在多大程度上已经存在。这些框架受到更多审视，文档更完善且支持更多平台。此外，它们通常对所支持的威胁模型具有灵活性。相比之下，文献中大多数安全评估协议针对特定威胁模型，其实现仅为“概念验证”，极难在实际中采用。我们以肯定的方式回答了上述两个问题：我们观察到TensorFlow、PyTorch和MXNet支持的量化技术可提供能以安全方式评估的模型表示；而且，该评估可由通用MPC框架执行。我们进行了广泛基准测试以理解不同腐败模型、网络规模与效率之间的确切权衡。这些实验对主动与被动安全以及诚实与不诚实多数之间的成本提供了有趣见解。我们的工作表明，现有ML框架与现有MPC协议之间的分隔线可能比先前工作隐含暗示的更窄。