中文

基于局部敏感哈希的符号回归表达式非精确简化

神经与进化计算 2024-04-10 v1 机器学习

摘要

符号回归(SR)寻找能准确拟合数据集的参数化模型,并优先考虑简单性和可解释性。尽管有这一次要目标,研究表明由于迭代过程中出现的冗余操作、内含子和膨胀,模型往往过于复杂,这可能因对膨胀片段的重复探索而阻碍搜索过程。应用快速的启发式代数简化可能无法完全简化表达式,而精确方法在表达式规模或复杂性较大时可能不可行。我们提出了一种新的不可知简化与膨胀控制方法,用于SR,采用基于局部敏感哈希(LHS)的高效记忆化。其思想是,在迭代简化过程中遍历的表达式及其子表达式通过LHS存储在字典中,从而能够高效检索相似结构。我们遍历表达式,如果替换为具有相同哈希的其他子树能产生更小的表达式,则进行替换。实验结果表明,在进化过程中应用此简化方法在最小化误差方面表现与无简化持平或更优,并显著减少了非线性函数的数量。该技术可以学习适用于一般情况或特定问题的简化规则,并在降低模型复杂度的同时提高收敛性。

关键词

引用

@article{arxiv.2404.05898,
  title  = {Inexact Simplification of Symbolic Regression Expressions with Locality-sensitive Hashing},
  author = {Guilherme Seidyo Imai Aldeia and Fabricio Olivetti de Franca and William G. La Cava},
  journal= {arXiv preprint arXiv:2404.05898},
  year   = {2024}
}

备注

9 pages, 10 figures, accepted to GECCO-24