EuclidNets：一种用于深度学习模型高效推理的替代运算
机器学习
2022-12-23 v1
摘要
随着深度学习在边缘设备上的应用兴起，研究者积极尝试在低功耗和受限内存设备上优化其部署。已有成熟的压缩方法如量化、剪枝和架构搜索可利用商用硬件。除常规压缩算法外，也可重新设计深度学习模型的运算以实现更高效实现。为此，我们提出 EuclidNet，一种压缩方法，旨在硬件上实现，将乘法 替换为欧氏距离 。我们表明 EuclidNet 与矩阵乘法一致，并且在卷积层情况下可用作相似性度量。此外，我们表明在各种变换和噪声场景下，EuclidNet 表现出与用乘法运算设计的深度学习模型相同的性能。
引用
@article{arxiv.2212.11803,
title = {EuclidNets: An Alternative Operation for Efficient Inference of Deep Learning Models},
author = {Xinlin Li and Mariana Parazeres and Adam Oberman and Alireza Ghaffari and Masoud Asgharian and Vahid Partovi Nia},
journal= {arXiv preprint arXiv:2212.11803},
year = {2022}
}