Tsetlin 机器在 XOR 算子上的收敛性分析
机器学习
2021-01-08 v1 人工智能
计算机科学中的逻辑
摘要
Tsetlin 机器（TM）是一种新颖的机器学习算法，具有若干独特性质，包括透明的推理以及使用近硬件基本模块进行学习。尽管大量论文从经验上探索了 TM，但其许多性质尚未得到数学分析。本文中，我们分析当输入通过 XOR 算子与输出呈非线性关系时 TM 的收敛性。我们的分析揭示，仅含两个合取子句的 TM 几乎必然收敛于复现 XOR，并在无限时间跨度上从训练数据中学习。此外，分析展示了超参数 T 如何引导子句构造，使子句捕捉数据中的不同子模式。我们对 XOR 收敛性的分析因而为分析其他更复杂的逻辑表达式奠定了基础。这些分析从数学视角 altogether 为 TM 为何在若干模式识别问题上取得最先进（state-of-the-art）性能提供了新见解。
引用
@article{arxiv.2101.02547,
title = {On the Convergence of Tsetlin Machines for the XOR Operator},
author = {Lei Jiao and Xuan Zhang and Ole-Christoffer Granmo and K. Darshana Abeyrathna},
journal= {arXiv preprint arXiv:2101.02547},
year = {2021}
}
备注
31 pages, 3 figures