通过算法改进和向量计算加速实现嵌入式学习系统中LinearUCB的高效部署
机器学习
2025-01-24 v1 硬件体系结构
摘要
随着物联网的扩展，将人工智能算法嵌入资源受限设备中对于实现实时自主决策而不依赖集中式云服务器变得越来越重要。然而，由于计算能力、内存和能源资源有限，在嵌入式设备中实现和执行复杂算法面临重大挑战。本文提出了算法和硬件技术，以在资源受限的嵌入式设备上高效实现两种LinearUCB上下文赌博机算法。基于Sherman-Morrison-Woodbury公式的算法修改简化了模型复杂度，同时利用向量加速来加速矩阵运算。我们分别分析了每种优化的影响，然后将它们结合在双管齐下的策略中。结果显示执行时间和能耗显著改善，证明了算法和硬件优化相结合的有效性，以增强具有低功耗和实时要求的边缘计算环境中的学习模型。
引用
@article{arxiv.2501.13139,
title = {Efficient Implementation of LinearUCB through Algorithmic Improvements and Vector Computing Acceleration for Embedded Learning Systems},
author = {Marco Angioli and Marcello Barbirotta and Abdallah Cheikh and Antonio Mastrandrea and Francesco Menichelli and Mauro Olivieri},
journal= {arXiv preprint arXiv:2501.13139},
year = {2025}
}