双值对称循环矩阵：深度学习中的应用
机器学习
2026-05-19 v1 人工智能
摘要
尽管深度神经网络在视觉、医疗诊断和物联网场景中取得了成功，但其在资源受限平台上的部署面临严重挑战，包括存储需求、计算复杂度和庞大占用空间。特别是，全连接层需要大量权重，使得边缘设备难以承载。为克服这一限制，本文提出双值对称循环矩阵（TVSCM），一种极稀疏架构仅使用两个权重即可保持循环和对称。这种极端稀疏结构的体系结构相较于传统全权存储具有极低的存储成本。无需硬件或额外的稀疏学习技术（如低秩近似和剪枝方法）的其他阶段，此架构提供极端稀疏性，实现极低的存储需求。仿真研究表明，在 MNIST 数据集上，参数数量从 623,290 降至 7,852，减少了超过 80 倍；在 MIT-BIH 心律失常数据集上，从 24,709 降至 942。同时保持可比的准确率：MNIST 上从 97.6% 保持到 93.5%，MIT-BIH 上从 97.6% 保持到 93.1%。由于其最小的架构需求和极低的功耗，该架构适用于边缘计算平台、tiny-ML 平台、物联网医疗技术（IoMT）系统和电池供电系统。
引用
@article{arxiv.2605.16443,
title = {Two-Valued Symmetric Circulant Matrices: Applications in Deep Learning},
author = {Jayakrishna Amathi and Venkata Prasanth Yanambaka and Saraju P. Mohanty and Elias Kougianos},
journal= {arXiv preprint arXiv:2605.16443},
year = {2026}
}