TT-Sparse：基于可微分真值表学习稀疏规则模型
机器学习
2026-03-10 v1
摘要
在决策需要问责、透明和信任的高风险领域中，可解释机器学习至关重要。虽然规则基模型提供全局和精确的可解释性，但同时实现高预测性能和低人类可理解复杂度的规则集学习仍然具有挑战性。为此，我们引入 TT-Sparse，一种灵活的神经构建模块，利用可微分真值表作为节点来学习稀疏且有效的连接。我们方法的一个关键贡献是一种带有直线传播估计的软 TopK 操作符，用于以端到端可微的方式学习离散、受卡尔布鲁姆约束的特征选择。关键的是，前向传播保持稀疏，从而实现高效计算和精确的符号规则提取。结果是，每个节点（以及整个模型）都可以精确地转换为通过 Quine-McCluskey 最小化得到的紧凑、全局可解释的 DNF/CNF 布尔公式。在 28 个涵盖二分类、多分类和回归任务的数据集的广泛实证结果显示，学习的稀疏规则在预测性能和复杂度方面均优于现有最先进方法。
引用
@article{arxiv.2603.07606,
title = {TT-Sparse: Learning Sparse Rule Models with Differentiable Truth Tables},
author = {Hans Farrell Soegeng and Sarthak Ketanbhai Modi and Thomas Peyrin},
journal= {arXiv preprint arXiv:2603.07606},
year = {2026}
}