中文

NeuralSolver:学习算法以在通用任务中实现一致且高效的外推

机器学习 2024-11-01 v4 人工智能

摘要

我们提出了 NeuralSolver,这是一种新颖的循环求解器,能够高效且一致地进行外推,即从较小规模(就观测大小而言)的问题中学习算法,并在大规模问题中执行这些算法。与先前的循环求解器相反,NeuralSolver 可自然地应用于同尺寸问题(输入和输出大小相同)和不同尺寸问题(输入和输出大小不同)。为了实现这种多功能性,我们将 NeuralSolver 设计为包含三个主要组件:一个在不同尺度上迭代处理输入信息的循环模块,一个负责聚合先前处理信息的处理模块,以及一个提高该方法外推性能的基于课程的学习方案。为了评估我们的方法,我们引入了一组新颖的不同尺寸任务,并表明 NeuralSolver 在外推至更大问题时,相较于训练问题更小且所需参数少于其他方法的先前最先进循环求解器,表现始终更优。

关键词

引用

@article{arxiv.2402.15393,
  title  = {NeuralSolver: Learning Algorithms For Consistent and Efficient Extrapolation Across General Tasks},
  author = {Bernardo Esteves and Miguel Vasco and Francisco S. Melo},
  journal= {arXiv preprint arXiv:2402.15393},
  year   = {2024}
}