深度学习中的安全与隐私问题
密码学与安全
2021-03-11 v4 机器学习
机器学习
摘要
为推进安全与隐私人工智能（SPAI），我们综述了关于 DNN 模型安全性与数据隐私的研究。模型安全性使系统按预期行为运行，而不受可能损害其完整性与效率的恶意外部影响。安全攻击可按发生时间划分：若攻击发生于训练期间，称为投毒攻击；若发生于推理阶段（训练后），则称为规避攻击。投毒攻击通过以恶意样本污染数据来破坏训练过程，而规避攻击利用对抗样本扰乱整个分类过程。针对此类攻击提出的防御包括：识别并移除恶意数据、训练对这类数据不敏感的模型，以及掩蔽模型结构与参数以使攻击更难实施。此外，模型训练所涉数据的隐私也受到模型反演攻击或 AI 应用不诚实服务提供商的威胁。为维护数据隐私，已提出若干结合现有数据隐私技术的方案，包括差分隐私与现代密码学技术。本文中，我们描述了一些方法（如同态加密）的概念，并综述其在深度学习模型中实现时的优势与挑战。
引用
@article{arxiv.1807.11655,
title = {Security and Privacy Issues in Deep Learning},
author = {Ho Bae and Jaehee Jang and Dahuin Jung and Hyemi Jang and Heonseok Ha and Hyungyu Lee and Sungroh Yoon},
journal= {arXiv preprint arXiv:1807.11655},
year = {2021}
}