利用局部化首层深度网络丢弃激活输出以增强用户隐私与数据安全
计算机视觉与模式识别
2017-11-22 v1
摘要
深度学习方法可在个人医疗、普适体态感知等应用中的异常检测、预测与决策支持方面发挥关键作用。然而，当前深度网络架构存在隐私问题：用户需将数据交由模型（通常托管于云端服务器或集群）进行训练或预测。对于敏感的医疗或医学数据（如 fMRI 或脑电 EEG 等体态传感器测量值），该问题尤为严重。此外，数据从用户传输至模型过程中（尤其经互联网时）也存在泄露的安全风险。针对这些问题，本文提出一种新深度网络架构，用户无需向模型泄露原始数据。在我们的方法中，前馈传播与数据加密合二为一：将深度网络首层迁移至用户本地设备，在本地施加激活函数，然后采用“丢弃激活输出”方法使输出不可逆。所得方法能够在不访问用户敏感原始数据的情况下完成模型预测。本文实验表明，我们的方法达到了理想的隐私保护要求，并展现出相对于传统加解密方法的若干优势。
引用
@article{arxiv.1711.07520,
title = {Dropping Activation Outputs with Localized First-layer Deep Network for Enhancing User Privacy and Data Security},
author = {Hao Dong and Chao Wu and Zhen Wei and Yike Guo},
journal= {arXiv preprint arXiv:1711.07520},
year = {2017}
}
备注
IEEE Trans. Information Forensics and Security (TIFS)