中文

从排序算法到可扩展核函数:高维排列空间的贝叶斯优化

偏微分方程分析 2025-07-18 v1

摘要

贝叶斯优化(BO)是黑盒优化的强大工具,但其在高维排列空间的应用受限于定义可扩展表示的挑战。当前在排列空间中应用 BO 的最佳方法依赖于 exhaustive Ω(n2)\Omega(n^2) 两两比较,导致稠密表示在大规模排列中难以实用。为突破这一障碍,我们引入一个新框架,通过源自排序算法派生的核函数生成高效排列表示。在此框架下,Mallows 核可视为从枚举排序派生的特殊实例。进一步,我们提出 Merge 核,利用归并排序的分治结构产生紧凑、Θ(nlogn)\Theta(n\log n) 的复杂度,实现最低可能的复杂度且无信息损失,有效捕获排列结构。我们的核心假设是,Merge 核在低维设置中与 Mallows 核竞争,但在维度 nn 增大时在优化性能和计算效率上显著优于后者。广泛的在各种排列优化基准上的评估确认了我们的假设,表明 Merge 核为高维排列空间的贝叶斯优化提供了可扩展且更有效的解决方案,从而解锁了解决大规模特征排序和组合神经网络架构搜索等先前不可行问题的潜力。

关键词

引用

@article{arxiv.2507.13262,
  title  = {Homogenization of nonlocal exchange energies in micromagnetics},
  author = {Rossella Giorgio and Leon Happ and Hidde Schönberger},
  journal= {arXiv preprint arXiv:2507.13262},
  year   = {2025}
}

备注

31 pages