GOAT:在可信执行环境中通过异步概率完整性验证实现深度学习训练的 GPU 外包
密码学与安全
2020-10-20 v1 机器学习
摘要
基于深度神经网络(DNNs)的机器学习模型正日益部署于从自动驾驶汽车到 COVID-19 治疗方法发现等广泛应用中。为支持学习 DNN 所需的计算能力,带有专用硬件支持的云环境已成为关键基础设施。然而,外包计算存在诸多完整性挑战。基于可信执行环境(TEE)已提出多种方法应对这些挑战。然而,现有方法均无法在不遭受显著性能损失的情况下扩展到支持真实、保持完整性的 DNN 模型训练(深层架构与数百万训练样本)的重负载。为缩小纯 TEE(全完整性)与纯 GPU(无完整性)之间的时间差距,我们将对选定计算步骤的随机验证与 DNN 超参数(如窄梯度裁剪范围)的系统调整相结合,从而在训练阶段该步骤未被选作验证时限制攻击者大幅偏移模型参数的能力。实验结果表明,相较于基于纯 TEE 的方案,新方法实现了 2 倍至 20 倍的性能提升,同时针对最先进的 DNN 后门攻击保证了极高的完整性概率(如 0.999)。
引用
@article{arxiv.2010.08855,
title = {GOAT: GPU Outsourcing of Deep Learning Training With Asynchronous Probabilistic Integrity Verification Inside Trusted Execution Environment},
author = {Aref Asvadishirehjini and Murat Kantarcioglu and Bradley Malin},
journal= {arXiv preprint arXiv:2010.08855},
year = {2020}
}