中文

AlgoSelect:基于 Comb 运算符的通用算法选择框架

机器学习 2025-06-24 v1 人工智能 数据结构与算法

摘要

我们提出 AlgoSelect,这是一个基于新颖 Comb 运算符的原理化框架,用于从数据中学习最优算法选择。给定一组算法和问题的特征表示,AlgoSelect 学习在不同计算方法之间进行插值。对于两个算法,一个简单的 sigmoid 门控选择器(即 Comb 运算符的一个实例)促进了这种插值。我们将其扩展到用于多个算法的 N 路径 Comb。我们证明了该框架是通用的(可以近似任何算法选择器),在其可学习性上是信息论最优的(选择阈值几乎必然收敛,通过 Borel-Cantelli 论证),且计算高效、鲁棒。关键理论贡献包括:(1) 通用逼近定理,表明基于 Comb 的选择器可以实现任意精度;(2) 选择阈值的信息论可学习性;(3) 将 Comb 运算符在线性算子理论中的正式化,详细说明其有界性和谱特性;(4) 用于多算法选择的 N 路径 Comb 推广;(5) 用于自适应 seeding 函数的实用学习框架,这些函数引导 Comb 运算符。在一个综合的 20×20 问题-算法研究中进行经验验证,显示出接近完美的选择(99.9%+ 准确率),且样本数量极少,收敛速度快,揭示了在结构化领域中 H(AlgorithmProblem)0H(\text{Algorithm}|\text{Problem}) \approx 0。AlgoSelect 提供了一个在理论上有据可依、在实践中可部署的解决方案,用于自动化算法选择,具有可证明的最优性和可学习性保证,对人工智能和自适应系统具有重要意义。

关键词

引用

@article{arxiv.2506.17304,
  title  = {AlgoSelect: Universal Algorithm Selection via the Comb Operator},
  author = {Jasper Yao},
  journal= {arXiv preprint arXiv:2506.17304},
  year   = {2025}
}

备注

24 pages, 4 figures, 1 repository, 1 supplementary document