用于设计神经网络木马检测器的科学计算器
密码学与安全
2020-09-28 v2 机器学习
摘要
本工作提出了一个基于 Web 的交互式神经网络（NN）计算器以及一种 NN 低效性度量，该度量已被研究用于检测嵌入在 NN 模型中的木马。该 NN 计算器构建于 TensorFlow Playground 之上，具有数据和 NN 图及系数的内存存储。它“如同科学计算器一般”，对训练数据集和 NN 架构执行分析、可视化和输出操作。该原型可访问 https://pages.nist.gov/nn-calculator。其分析能力包括使用应用于 NN 模型状态直方图的修正 Kullback-Liebler（KL）散度对 NN 低效性的新颖度量，以及针对数据与 NN 相关变量敏感性的量化。NN 计算器和 KL 散度均被用于设计一种针对多种木马嵌入的木马检测方法。实验结果记录了 KL 散度度量相对于 NN 架构和数据集扰动的理想性质，以及关于嵌入木马的推断。
引用
@article{arxiv.2006.03707,
title = {Scientific Calculator for Designing Trojan Detectors in Neural Networks},
author = {Peter Bajcsy and Nicholas J. Schaub and Michael Majurski},
journal= {arXiv preprint arXiv:2006.03707},
year = {2020}
}
备注
Presented at AAAI FSS-20: Artificial Intelligence in Government and Public Sector, Washington, DC, USA