PoTrojan：深度学习模型中强大的神经级木马设计
密码学与安全
2019-12-04 v2 机器学习
摘要
随着深度学习（DL）的普及，人工智能（AI）已应用于人类生活的诸多领域。作为DL背后主要技术的神经网络或人工神经网络（NN）已被广泛研究以推动计算机视觉和自然语言识别的发展。然而，我们越依赖信息技术，就越显脆弱。也就是说，恶意NN可能在所谓的即将到来的人工智能时代带来巨大威胁。本文在文献中首次提出一种在预训练NN模型中设计和插入强大神经级木马或PoTrojan的新方法。大多数情况下，PoTrojan保持不活跃，不影响其宿主NN模型的正常功能。PoTrojan仅在极罕见条件下被触发。然而一旦激活，PoTrojan可导致宿主NN模型 malfunction，即错误预测或分类，这对人工智能时代的人类社会构成重大威胁。我们将解释PoTrojan的原理，以及在其预训练深度学习模型中设计和插入的容易程度。PoTrojan不修改预训练模型的现有架构或参数，无需重新训练。因此，所提方法非常高效。
引用
@article{arxiv.1802.03043,
title = {PoTrojan: powerful neural-level trojan designs in deep learning models},
author = {Minhui Zou and Yang Shi and Chengliang Wang and Fangyu Li and WenZhan Song and Yu Wang},
journal= {arXiv preprint arXiv:1802.03043},
year = {2019}
}
备注
7 pages, 6 figures