基于多层逻辑感知机与随机二值化的可解释分类
机器学习
2020-02-21 v2 机器学习
摘要
在医疗、金融、安全等领域，需要具备透明内部结构与高分类性能的模型，以降低潜在风险并为用户提供信任。然而，现有模型难以同时满足上述两种性质。本文提出一种用于分类任务的新型基于规则的层次化模型，称为概念规则集（CRS），其兼具强表达能力与透明内部结构。为应对高效学习不可微CRS模型的挑战，我们提出一种新颖的神经网络架构——多层逻辑感知机（MLLP），它是CRS的连续版本。利用MLLP与我们提出的随机二值化（RB）方法，我们可在连续空间中用梯度下降搜索CRS的离散解，并确保离散CRS的行为与相应连续MLLP几乎一致。在12个公开数据集上的实验表明，CRS优于最先进的方法，且所学CRS的复杂度接近于简单决策树。源代码见 https://github.com/12wang3/mllp。
引用
@article{arxiv.1912.04695,
title = {Transparent Classification with Multilayer Logical Perceptrons and Random Binarization},
author = {Zhuo Wang and Wei Zhang and Ning Liu and Jianyong Wang},
journal= {arXiv preprint arXiv:1912.04695},
year = {2020}
}
备注
AAAI-20 (oral presentation); source codes added