中文

使用超维度计算实现超越边缘的终身智能

机器学习 2024-03-08 v1 神经与进化计算

摘要

设备端学习已成为一种流行趋势,它避免了基于云端学习的缓慢响应时间和高昂通信成本。在不断变化的环境中,在资源限制下持续且无限期学习的能力,对于真实的传感器部署至关重要。然而,现有设计不足以应对具有 (i) 流数据输入、(ii) 缺乏监督和 (iii) 板载资源有限等特征的实际场景。在本文中,我们设计并部署了首个名为 LifeHD 的设备端终身学习系统,用于缺乏监督的通用物联网应用。LifeHD 基于一种名为超维度计算(HDC)的新型神经启发且轻量级的学习范式设计。我们利用双层联想记忆组织来智能地存储和管理高维、低精度向量,这些向量将历史模式表示为聚类质心。我们还提出了 LifeHD 的两种变体,以应对稀缺的标记输入和功率限制。我们在现成的边缘平台上实现了 LifeHD,并在三种场景下进行了广泛评估。我们的测量结果表明,与最先进的基于 NN 的无监督终身学习基线相比,LifeHD 将无监督聚类精度提高了高达 74.8%,能效提升了 34.3 倍。我们的代码可在 https://github.com/Orienfish/LifeHD 获取。

关键词

引用

@article{arxiv.2403.04759,
  title  = {Lifelong Intelligence Beyond the Edge using Hyperdimensional Computing},
  author = {Xiaofan Yu and Anthony Thomas and Ivannia Gomez Moreno and Louis Gutierrez and Tajana Rosing},
  journal= {arXiv preprint arXiv:2403.04759},
  year   = {2024}
}

备注

Accepted by IPSN'24