神经网络的区域表示、格表示与逻辑表示

神经网络可解释性的一个可能路径是（大致）以分段线性函数的区域格式表示其中，其中将输入的区域与计算网络输出的线性函数关联。我们present了一种用于将具有ReLU激活函数隐藏层和截断恒等函数输出层的前馈神经网络进行转换的算法。我们还经验性地研究了该方法输出的区域表示对于神经网络不同规模的复杂度。只要满足特定属性，神经网络的格表示和逻辑表示从区域表示便可直接获得。因此，我们经验性地研究了该算法的转换是否满足这一属性。