扩展 Tsetlin 机以引入整数权重子句从而提升可解释性

尽管付出了巨大努力，构建既可解释又准确的模型仍是许多模式识别问题尚未解决的挑战。一般而言，基于规则和线性模型的准确性不足，而深度学习的可解释性建立在对其底层推理的粗略近似之上。Tsetlin 机（TM）利用命题逻辑中合取子句的线性组合，已在多种基准上展现出竞争性能。然而，为此需要大量子句，这影响了可解释性。在此，我们通过为 TM 子句配备整数权重来应对机器学习中的准确性-可解释性挑战。所得的整数加权 TM（IWTM）将学习哪些子句不准确因而必须组队以获得高准确性（低权重子句），以及哪些子句足够准确从而能更独立地运作（高权重子句）这一问题作为团队问题来处理。由于每个 TM 子句由一个 Tsetlin 自动机团队自适应形成，确定有效权重成为一个具有挑战性的在线学习问题。我们通过用线上搜索（SSL）自动机扩展每个 Tsetlin 自动机团队来解决该问题。在我们的新方案中，SSL 自动机通过与相应 Tsetlin 自动机团队交互来学习其子句的权重，而后者通过调整权重来自适应地改变子句的构成。我们使用五个数据集对 IWTM 进行实证评估，包括一项可解释性研究。平均而言，IWTM 使用的文字数比原始 TM 少 6.5 倍，比具有实值权重的 TM 少 120 倍。此外，在平均 F1 分数方面，IWTM 优于简单多层人工神经网络、决策树、支持向量机、K 近邻、随机森林、XGBoost、可解释提升机以及标准和实值加权 TM。