Silenzio：面向非交互式 outsourced MLP 训练的安全方案

将ML训练外包给云服务提供商为资源受限的客户端提供了吸引人的机会，同时也潜藏着隐私风险。我们提出Silenzio，这是第一个完全非交互式的MLP训练外包方案，采用FHE（精确为TFHE）实现128位安全。不同于传统基于MPC的协议需要客户端与服务器（或多个服务器）之间进行交互通信或多个服务器之间不共谋的假设，Silenzio实现了“一次fire-and-forget”范式，无需此类假设。在此方法中，客户端仅对训练数据进行一次加密，服务器即可进行训练且无需进一步交互。Silenzio完全基于低位宽整数运行，以减轻FHE固有的计算开销。我们的方案引入了一种新颖的低位宽矩阵乘法组件，利用输入相关的剩余数系统，确保任何中间值不会超过8位。从RNS到MRNS转换过程，我们提出了一种高效的块缩放机制，大致将加密张量值移位到用户指定的最高有效位。为实现误差反向传播，Silenzio引入了交叉熵损失的低位宽梯度计算。我们在标准MLP训练任务上评估了Silenzio，包括运行时和模型性能，实现的分类准确率与使用32位浮点计算的PyTorch训练的MLP相当。我们开源的Silenzio实现代表了隐私保护ML领域的重大进步，为安全非交互式outsourced MLP训练提供了新的基准。