利用深度神经树架构窃取黑盒功能
机器学习
2020-02-25 v1 密码学与安全
机器学习
摘要
本文通过引入一种称为深度神经树（Deep Neural Trees, DNTs）的机器学习（ML）架构，在向克隆黑盒模型功能的方向上迈出了实质性一步。该新架构能够学习分离黑盒模型的不同任务，并克隆其特定任务行为。我们提出使用主动学习算法训练 DNT，以获得更快且更具样本效率的训练。与先前工作不同，我们仅基于输入输出交互来研究复杂的“受害”黑盒模型，同时攻击者与受害模型可能具有完全不同的内部架构。攻击者是基于 ML 的算法，而受害者通常是未知模块，例如多用途数字芯片、复杂模拟电路、机械系统、软件逻辑或这些的混合。训练后的 DNT 模块不仅能作为被攻击模块发挥作用，还因所提架构的树状特性为克隆模型提供了一定程度的可解释性。
引用
@article{arxiv.2002.09864,
title = {Stealing Black-Box Functionality Using The Deep Neural Tree Architecture},
author = {Daniel Teitelman and Itay Naeh and Shie Mannor},
journal= {arXiv preprint arXiv:2002.09864},
year = {2020}
}
备注
8 pages, 7 figures, 1 table