一种用于Tsetlin机在线学习的FPGA架构
机器学习
2023-06-05 v1 人工智能
硬件体系结构
摘要
机器学习模型需要在无监督环境下演化。可能引入新分类、发生预期外故障，或初始数据集相较于系统正常运行时呈现的数据点较小。使用神经网络实现此类系统涉及显著的数学复杂性，这在功耗关键的边缘应用中是主要问题。本文提出一种用于在线学习的新型现场可编程门阵列基础设施，实现了一种称为Tsetlin机的低复杂度机器学习算法。该基础设施具有为运行时学习管理定制的架构，提供片上离线及在线学习。利用该架构，在推理发生前可使用预分类数据在\ac{FPGA}上按需训练。此外，我们的架构支持在线学习，训练中可与推理在操作期间交错进行。Tsetlin机(TM)训练自然收敛至最优，且训练亦关联于一阈值超参数，用于随着TM进一步训练降低发出反馈的概率。所提架构为模块化，允许数据输入源轻松变更，同时内置交叉验证基础设施可在系统测试期间给出可靠且具有代表性的结果。我们给出了使用该基础设施进行在线学习的用例，并展示了能耗/性能/精度权衡。
引用
@article{arxiv.2306.01027,
title = {An FPGA Architecture for Online Learning using the Tsetlin Machine},
author = {Samuel Prescott and Adrian Wheeldon and Rishad Shafik and Tousif Rahman and Alex Yakovlev and Ole-Christoffer Granmo},
journal= {arXiv preprint arXiv:2306.01027},
year = {2023}
}