BiHDTrans：用于高效多变量时间序列分类的二进制超维变换
机器学习
2025-09-30 v1 硬件体系结构
摘要
物联网（IoT）设备的快速增长导致大量多变量时间序列（MTS）数据产生，要求在资源受限的边缘环境中进行高效且准确的处理，以实现及时决策。超维（HD）计算因其固有的效率和可并行性，在分类任务中展现出前景，但难以捕获复杂的时序模式；而变换器在序列建模方面却面临高计算和内存开销。我们引入BiHDTrans，一种高效的神经符号二进制超维变换，将自注意力集成到HD计算范式中，统一了HD计算的表示效率与变换器的时序建模能力。经验上，BiHDTrans至少优于最先进（SOTA）HD计算模型14.47%，在准确率上平均高出6.67%。在FPGA上的硬件加速实现中，我们的流水线化实现利用高维表示的独立同分布特性，实现推断延迟比SOTA二进制变换器低39.4倍。理论分析表明，在全息高维空间对二进制化的误差远小于直接对神经网络进行二进制化，解释了BiHDTrans的优越准确性。此外，维度实验确认，BiHDTrans即使在降低64%的超空间维度后，仍具竞争力，准确率比SOTA二进制变换器高1-2%，模型规模缩小4.4倍，延迟相较于全维基准降低49.8%。这些贡献弥合了变换器表达力与HD计算效率之间的鸿沟，使准确、可扩展且低延迟的MTS分类成为可能。
引用
@article{arxiv.2509.24425,
title = {BiHDTrans: binary hyperdimensional transformer for efficient multivariate time series classification},
author = {Jingtao Zhang and Yi Liu and Qi Shen and Changhong Wang},
journal= {arXiv preprint arXiv:2509.24425},
year = {2025}
}