范畴表示学习：态射即你所需要的一切

我们提供了范畴表示学习的构造并引入了“categorifier（范畴化器）”的基础。表示学习的中心主题是“万物到向量”的思想。数据集 $\mathcal{S}$ 中的每个对象都可以通过编码映射 $E: \mathcal{O}bj(\mathcal{S})\to\mathbb{R}^n$ 表示为 $\mathbb{R}^n$ 中的一个向量。更重要的是，每个态射都可以表示为矩阵 $E: \mathcal{H}om(\mathcal{S})\to\mathbb{R}^{n}_{n}$。编码映射 $E$ 通常由深度神经网络建模。表示学习的目标是设计数据集上的适当任务来训练编码映射（假设若编码普遍优化各种任务上的性能，则其为最优）。然而，后者仍是一种集合论方法。本文的目标是通过范畴论方法将表示学习提升到新高度。作为概念验证，我们提供了一个配备我们技术的文本翻译器示例，表明我们的范畴学习模型比当前深度学习模型优 17 倍。本文内容是近期美国专利提案（专利申请号：63110906）的一部分。