保护神经网络训练过程的完整性
密码学与安全
2020-05-15 v1 机器学习
机器学习
摘要
由于近年来性能的显著提升，神经网络目前被用于越来越多的应用。然而，神经网络有一个缺点，即其决策对人类而言不易解释和追溯。这造成了若干问题，例如在安全性要求高的应用中，安全和 IT 安全方面的问题，而确保这些特性至关重要。由神经网络不透明性加剧的最引人注目的 IT 安全问题之一，是训练阶段发生所谓投毒攻击的可能性，即攻击者插入精心构造的数据以操纵所得模型。我们针对该问题提出一种方法，通过利用标准密码学机制，可证明地验证训练过程的完整性。
引用
@article{arxiv.2005.06928,
title = {Protecting the integrity of the training procedure of neural networks},
author = {Christian Berghoff},
journal= {arXiv preprint arXiv:2005.06928},
year = {2020}
}
备注
9 pages, 2 figures