中文

LogHD:基于对数类轴缩减的超维分类器鲁棒压缩

机器学习 2026-02-04 v2

摘要

超维计算(HDC)适用于受限的内存、能源和可靠性系统,但标准的“每个类别一个原型”设计需要O(CD)O(CD)内存(其中CC为类别数,DD为维度)。先前的压缩方法减小DD(特征轴),改善存储和计算,但削弱了鲁棒性。我们提出LogHD,一种对数类轴缩减方法,用nlogkCn\approx\lceil\log_k C\rceil个捆联矢量(字母表大小为kk)取代CC个类别原型,并在nn维激活空间中解码,将内存压缩至O(DlogkC)O(D\log_k C),同时保持DD。LogHD采用容量感知的码表和基于轮廓的解码,能够与特征轴稀疏化相组合。在数据集和注入位翻转实验中,LogHD在较小模型的情况下实现了具竞争力的准确率,并在相同内存下展现出更高的韧性。在相同内存下,LogHD可在约2.52.5-3.0×3.0\times更高的位翻转率下维持目标准确率;ASIC实现相较于AMD Ryzen 9 9950X实现498×498\times的能源效率和62.6×62.6\times的加速,相较于NVIDIA RTX 4090实现24.3×24.3\times/6.58×6.58\times,比特征轴HDC ASIC基线实现4.06×4.06\times的能源效率和2.19×2.19\times的加速。

关键词

引用

@article{arxiv.2511.03938,
  title  = {LogHD: Robust Compression of Hyperdimensional Classifiers via Logarithmic Class-Axis Reduction},
  author = {Sanggeon Yun and Hyunwoo Oh and Ryozo Masukawa and Pietro Mercati and Nathaniel D. Bastian and Mohsen Imani},
  journal= {arXiv preprint arXiv:2511.03938},
  year   = {2026}
}

备注

Accepted to DATE 2026