面向递归序列的深度符号回归
机器学习
2022-06-29 v2
摘要
符号回归，即从函数值的观测中预测函数，众所周知是一项具有挑战性的任务。在本文中，我们训练 Transformer 来推断整数或浮点数序列背后的函数或递推关系，这是人类智商测试中的典型任务，在机器学习文献中鲜有涉及。我们在 OEIS 序列的一个子集上评估了我们的整数模型，并表明其在递推预测方面优于 Mathematica 的内置函数。我们还证明了我们的浮点数模型能够对词汇表外的函数和常数给出信息丰富的近似，例如 bessel0(x)≈ (sin(x)+cos(x))/√(πx) 和 1.644934≈ π²/6。我们模型的交互式演示可在 https://symbolicregression.metademolab.com 获取。
引用
@article{arxiv.2201.04600,
title = {Deep Symbolic Regression for Recurrent Sequences},
author = {Stéphane d'Ascoli and Pierre-Alexandre Kamienny and Guillaume Lample and François Charton},
journal= {arXiv preprint arXiv:2201.04600},
year = {2022}
}