中文

Boolformer:基于 Transformers 的逻辑函数符号回归

机器学习 2025-07-18 v2 计算机科学中的逻辑

摘要

我们介绍 Boolformer,一种经训练用于执行布尔函数端到端符号回归的基于 Transformer 的模型。首先,我们展示给定完整真值表时,它能为训练期间未见的复杂函数预测紧凑公式。随后,我们证明即便在观测不完整或含噪情况下,Boolformer 仍能找到良好的近似表达式。我们在一组广泛的真实世界二分类数据集上评估 Boolformer,展示其作为经典机器学习方法可解释替代方案的潜力。最后,我们将其应用于广泛存在的基因调控网络动力学建模任务,并通过基准测试表明 Boolformer 与最先进的遗传算法具有竞争力,且速度提升数个数量级。我们的代码与模型已公开可用。

关键词

引用

@article{arxiv.2309.12207,
  title  = {Boolformer: Symbolic Regression of Logic Functions with Transformers},
  author = {Stéphane d'Ascoli and Arthur Renard and Vassilis Papadopoulos and Samy Bengio and Josh Susskind and Emmanuel Abbé},
  journal= {arXiv preprint arXiv:2309.12207},
  year   = {2025}
}

备注

Updated with new ESPRESSO experiments, reworked manuscript. Added 2 authors that participated in last submission