WHYPE:一种采用无线空中多数计算的可扩展存内超维度计算横向扩展架构
分布式、并行与集群计算
2023-03-15 v1
摘要
超维度计算 (HDC) 是一种新兴的计算范式,它使用称为超向量的长随机向量来表示、操作和通信数据。在能够执行 HDC 算法的不同硬件平台中,存内计算 (IMC) 展现出前景,因为它在执行 HDC 代数中常见的矩阵向量乘法时非常高效。尽管基于 IMC 的 HDC 架构已经存在,但由于这些架构所需的集体通信模式是传统芯片级网络所未曾设计的,如何对其进行扩展仍然是一个关键挑战。为了应对这一困难,我们提出了一种名为 WHYPE 的横向扩展 HDC 架构,该架构使用无线封装内通信技术来互连大量物理分布的 IMC 核心,这些核心要么编码超向量,要么并行执行多次相似性搜索。在此背景下,WHYPE 的关键使能技术是机会性地将无线网络用作空中计算 (over-the-air computation) 的媒介。WHYPE 实现了一种优化的信源编码,允许接收器计算通过无线信道并发传输的多个超向量的逐位多数(HDC 中的一种有用操作)。通过这样做,我们实现了联合广播分发与计算,其性能和效率是有线互连无法企及的,这反过来又实现了架构的大规模并行化。通过在片上网络和完整架构层面的评估,我们证明 WHYPE 能够比假想的有线实现更快、更高效地捆绑和分发超向量,并且能很好地扩展至数十个接收器。我们表明,多数计算的平均错误率很低,以至于对 HDC 分类任务的精度影响可以忽略不计。
引用
@article{arxiv.2303.08067,
title = {WHYPE: A Scale-Out Architecture with Wireless Over-the-Air Majority for Scalable In-memory Hyperdimensional Computing},
author = {Robert Guirado and Abbas Rahimi and Geethan Karunaratne and Eduard Alarcón and Abu Sebastian and Sergi Abadal},
journal= {arXiv preprint arXiv:2303.08067},
year = {2023}
}
备注
Accepted at IEEE Journal on Emerging and Selected Topics in Circuits and Systems (JETCAS). arXiv admin note: text overlap with arXiv:2205.10889