中文

一种 Walsh Hadamard 导出的线性向量符号架构

人工智能 2024-10-31 v1 机器学习

摘要

向量符号架构(VSA)是发展神经符号人工智能的一种方法,其中 Rd\mathbb{R}^d 中的两个向量被“绑定”在一起,以在同一空间中产生一个新向量。VSA 支持这种绑定操作的交换律和结合律,以及一个逆操作,允许人们对实值向量进行符号式的操作。大多数 VSA 是在深度学习和自动微分流行之前开发的,它们更侧重于在手工设计系统中的效能。在这项工作中,我们引入了 Hadamard 导出的线性绑定(HLB),其设计旨在具有优越的计算效率、在经典 VSA 任务中的效能,并在可微系统中表现良好。代码可在 https://github.com/FutureComputing4AI/Hadamard-derived-Linear-Binding 获取。

关键词

引用

@article{arxiv.2410.22669,
  title  = {A Walsh Hadamard Derived Linear Vector Symbolic Architecture},
  author = {Mohammad Mahmudul Alam and Alexander Oberle and Edward Raff and Stella Biderman and Tim Oates and James Holt},
  journal= {arXiv preprint arXiv:2410.22669},
  year   = {2024}
}

备注

To appear in the 38th Conference on Neural Information Processing Systems (NeurIPS 2024)