卷积Tsetlin机

卷积神经网络（CNNs）在重要的模式识别任务上取得了惊人成功，但它们存在计算复杂度高且缺乏可解释性的问题。近期提出的Tsetlin机（TM）试图通过在命题逻辑中使用易于解释的共轭子句来解决这一不足，以处理复杂的模式识别问题。TM在多个基准上提供了具有竞争力的准确率，同时保持了可解释这一重要特性。由于输入、模式与输出均以比特表示，而识别与学习依赖于直接的位操作，TM进一步便于近硬件实现。在本文中，我们利用TM范式引入卷积Tsetlin机（CTM），作为CNNs的一种可解释替代方案。TM通过对整幅图像各使用一次子句来进行图像分类，而CTM将每个子句用作卷积滤波器。即，一个子句被多次求值，对参与卷积的每个图像块各一次。为使子句具备位置感知能力，每个图像块还进一步以其图像内坐标进行增广。卷积子句的输出只需对该子句在各图像块上求值的结果做OR运算即得。在TM的学习阶段，求值为1的子句会与输入进行对比。对于CTM，我们改为与其中一个图像块对比，该块从使子句求值为1的图像块中随机选取。相应地，经典TM的标准I类与II类反馈可直接采用，无需进一步修改。CTM在MNIST上取得99.4%的峰值测试准确率，在Kuzushiji-MNIST上为96.31%，在Fashion-MNIST上为91.5%，在2D噪声XOR问题上为100.0%，与简单4层CNNs、BinaryConnect、Logistic Circuits及FPGA加速的二值CNN所报告的结果相当。