用于 MBAT 向量符号架构的正交矩阵,以及一种用于 JSON 的“软”VSA 表示
机器学习
2022-02-11 v1 人工智能
神经与进化计算
摘要
向量符号架构提供了一种将复杂对象表示为单个固定长度向量的方法,使得相似的对象具有相似的向量表示。这些向量表示随后变得易于用于机器学习或最近邻搜索。我们回顾了一种先前提出的 VSA 方法,MBAT,它使用随机矩阵乘法来绑定相关项。然而,乘以这样的矩阵会引入不稳定性,从而损害性能。将随机矩阵设为正交矩阵可证明地解决了这个问题。关于更大规模的应用,我们看到了如何为任何以 JSON 表达的数据应用 MBAT 向量表示。JSON 在众多编程语言中用于表达复杂数据,但其原生格式似乎极不适合机器学习。将 JSON 表示为固定长度向量使其易于用于机器学习和最近邻搜索。创建这样的 JSON 向量也表明,VSA 需要使用非交换的绑定操作。VSA 现已准备好尝试全规模的实际应用,包括医疗保健、制药和基因组学。
引用
@article{arxiv.2202.04771,
title = {Orthogonal Matrices for MBAT Vector Symbolic Architectures, and a "Soft" VSA Representation for JSON},
author = {Stephen I. Gallant},
journal= {arXiv preprint arXiv:2202.04771},
year = {2022}
}
备注
8 pages