基于范畴论的图示方法提高群等变神经网络计算效率

群等变神经网络因其在数据具有已知底层对称性的应用中能够良好泛化而日益重要。最近对这类网络的某些 characterization 提出，使用高阶张量幂空间作为其层，表明它们具有显著潜力；然而，其实现仍然具有挑战性，因为涉及的计算代价极高。在本 work 中，我们为这类网络中将张量幂层空间之间的等变权重矩阵进行快速矩阵乘法算法，针对四个群：对称群、正交群、特殊正交群和辨识群。我们通过发展基于范畴论的图示框架来获得该算法，这使我们不仅可以将每个权重矩阵表示为图示的线性组合，而且可以使用这些图示将原始计算因式分解为一系列最优步骤。我们表明，该算法相对于 na"{i}ve 矩阵乘法的 Big-$O$ 时间复杂度指数性地提高。