驯服二值化神经网络与混合整数规划

近来二值化神经网络引起了极大关注，尤其是因其可解释性。与此同时，反向传播等自动微分算法对二值化神经网络失效，这限制了其适用性。通过将训练二值化神经网络的问题重新表述为混合整数规划的次可加对偶，我们表明二值化神经网络容许一种驯服的表示。这进而使得能够使用 Bolte 等人的隐式微分框架，为在二值化神经网络背景下实际实现反向传播提供了可能。该方法也可用于更广泛的混合整数规划类，超越二值化神经网络的训练，正如在 AI 的符号方法及其他领域中所遇到的那样。