Boolformer:基于 Transformers 的逻辑函数符号回归
机器学习
2025-07-18 v2 计算机科学中的逻辑
摘要
我们介绍 Boolformer,一种经训练用于执行布尔函数端到端符号回归的基于 Transformer 的模型。首先,我们展示给定完整真值表时,它能为训练期间未见的复杂函数预测紧凑公式。随后,我们证明即便在观测不完整或含噪情况下,Boolformer 仍能找到良好的近似表达式。我们在一组广泛的真实世界二分类数据集上评估 Boolformer,展示其作为经典机器学习方法可解释替代方案的潜力。最后,我们将其应用于广泛存在的基因调控网络动力学建模任务,并通过基准测试表明 Boolformer 与最先进的遗传算法具有竞争力,且速度提升数个数量级。我们的代码与模型已公开可用。
引用
@article{arxiv.2309.12207,
title = {Boolformer: Symbolic Regression of Logic Functions with Transformers},
author = {Stéphane d'Ascoli and Arthur Renard and Vassilis Papadopoulos and Samy Bengio and Josh Susskind and Emmanuel Abbé},
journal= {arXiv preprint arXiv:2309.12207},
year = {2025}
}
备注
Updated with new ESPRESSO experiments, reworked manuscript. Added 2 authors that participated in last submission