通过神经元间因子分解验证二值化神经网络
软件工程
2018-01-22 v2 机器学习
计算机科学中的逻辑
摘要
我们研究二值化神经网络（Binarized Neural Networks, BNN）的形式化验证问题，这类网络最近被提出作为传统学习网络的一种高能效替代方案。通过将验证归约为硬件验证，并利用同一层内神经元间的因子分解计算，可以使BNN的验证更具可扩展性。我们证明了寻找最优因子分解是NP难的，且PTAS近似也是困难的，进而设计了多项式时间的搜索启发式算法来生成因子分解方案。整体框架允许对面向嵌入式设备、拥有数千个神经元和输入的中等规模BNN应用验证技术。
引用
@article{arxiv.1710.03107,
title = {Verification of Binarized Neural Networks via Inter-Neuron Factoring},
author = {Chih-Hong Cheng and Georg Nührenberg and Chung-Hao Huang and Harald Ruess},
journal= {arXiv preprint arXiv:1710.03107},
year = {2018}
}
备注
Version 2: add proofs for hardness of PTAS approximability, remove experiments on randomized examples and some not-so-important optimizations