中文

加权 Tsetlin 机:基于加权子句的压缩表示

机器学习 2020-01-15 v4 人工智能 机器学习

摘要

Tsetlin 机(TM)是一种可解释的图案识别机制,它从数据中构造合取子句。这些子句捕捉具有高判别力的频繁模式,并随每个附加子句提供递增的表达能力。然而,由此带来的准确率提升是以计算时间和内存使用的线性增长为代价的。在本文中,我们提出加权 Tsetlin 机(WTM),通过对子句加权来减少计算时间与内存使用。实值加权允许一个子句替代多个子句,并支持微调每个子句的影响。我们的新方案同时学习子句的组成及其权重。此外,我们用大小为 pkp k 的平均值的均匀采样(大小取自二项分布)来替换成功概率为 ppkk 次伯努利试验,从而提高了训练效率。在我们的实证评估中,WTM 在 MNIST、IMDb 和 Connect-4 上取得了与 TM 相同的准确率,分别仅需 1/41/41/31/31/501/50 的子句数量。在子句数相同的情况下,WTM 优于 TM,分别获得了 98.63%98.63\%90.37%90.37\%87.91%87.91\% 的峰值测试准确率。最后,我们的新采样方案将样本生成时间减少了 77 倍。

关键词

引用

@article{arxiv.1911.12607,
  title  = {The Weighted Tsetlin Machine: Compressed Representations with Weighted Clauses},
  author = {Adrian Phoulady and Ole-Christoffer Granmo and Saeed Rahimi Gorji and Hady Ahmady Phoulady},
  journal= {arXiv preprint arXiv:1911.12607},
  year   = {2020}
}

备注

Accepted at the Ninth International Workshop on Statistical Relational AI