面向机器学习的算法发现任务程序生成
机器学习
2026-03-19 v1 人工智能
摘要
自动化机器学习算法的开发有望带来新的突破。然而，我们在算法发现系统方面的改进和评估能力迄今受限于现有任务套件。它们存在诸多问题，如：评估方法不佳；数据污染；以及包含饱和或高度相似的问题。本文介绍了 DiscoGen，这是一个用于机器学习的算法发现任务程序生成器，如为强化学习开发优化器或为图像分类开发损失函数。鼓励程序生成在强化学习中的成功，DiscoGen 涵盖数以百万计的任务，难度和复杂度各异，涉及机器学习领域的多个方面。这些任务由少量配置参数指定，可用于优化算法发现代理(ADA)。我们present DiscoBench，这是一个由固定小子集的 DiscoGen 任务组成的基准，用于原则性地评估 ADA。最后，我们提出了由 DiscoGen 启发的若干宏伟且具有影响力的研究方向，并通过实验展示其用于 ADA 提示优化的用途。DiscoGen 已在 https://github.com/AlexGoldie/discogen 上开源。
关键词
引用
@article{arxiv.2603.17863,
title = {Procedural Generation of Algorithm Discovery Tasks in Machine Learning},
author = {Alexander D. Goldie and Zilin Wang and Adrian Hayler and Deepak Nathani and Edan Toledo and Ken Thampiratwong and Aleksandra Kalisz and Michael Beukman and Alistair Letcher and Shashank Reddy and Clarisse Wibault and Theo Wolf and Charles O'Neill and Uljad Berdica and Nicholas Roberts and Saeed Rahmani and Hannah Erlebach and Roberta Raileanu and Shimon Whiteson and Jakob N. Foerster},
journal= {arXiv preprint arXiv:2603.17863},
year = {2026}
}