Tsetlin 机器的广义收敛分析:一种用于概念学习的概率方法
人工智能
2023-10-04 v1
摘要
Tsetlin 机器(TMs)因能够通过命题公式学习概念及其在各应用领域中已证实的效率而受到越来越多的关注。尽管如此,TMs 的收敛性证明,特别是针对 AND 算子(字面量的合取)在广义情况(输入大于两位)下,仍是一个开放问题。本文旨在通过提出对基于 Tsetlin 自动机的机器学习算法的全面收敛分析来填补这一空白。我们引入了一个称为概率概念学习(PCL)的新框架,它简化了 TM 结构,同时结合了专门的反馈机制以及针对字面量的专门包含/排除概率。给定 个特征,PCL 旨在学习一组合取子句 ,每个子句关联一个不同的包含概率 。最重要的是,我们建立了理论证明,确认对于任意子句 ,当 时,PCL 收敛于字面量的合取。该结果为未来关于基于 Tsetlin 自动机的算法的收敛特性研究奠定了基础。我们的发现不仅有助于对 Tsetlin 机器的理论理解,也对其实际应用有意义,可能带来更鲁棒且可解释的机器学习模型。
引用
@article{arxiv.2310.02005,
title = {Generalized Convergence Analysis of Tsetlin Machines: A Probabilistic Approach to Concept Learning},
author = {Mohamed-Bachir Belaid and Jivitesh Sharma and Lei Jiao and Ole-Christoffer Granmo and Per-Arne Andersen and Anis Yazidi},
journal= {arXiv preprint arXiv:2310.02005},
year = {2023}
}