通过潜在空间逆向工程的元黑盒优化实例生成

为缓解当前元黑盒优化 (MetaBBO) 研究中设计优化算法需依赖大量人类专家经验的困境，近期的 MetaBBO 研究借助元学习的泛化能力，在预定义的训练问题集合上训练神经网络-based 算法设计策略，从而自动化地适应未知问题实例。当前，MetaBBO 常见的训练问题集合选择是众所周知的基准套件 CoCo-BBOB。虽然这种选择有助于 MetaBBO 的发展，但 CoCo-BBOB 中的问题实例在多样性上受限，增加了 MetaBBO 过拟合的风险，可能导致其在实际应用中的表现不佳。本文提出一种称为 \textbf{LSRE} 的实例生成方法，可为 MetaBBO 生成多样化的训练问题实例，以学习更具普适性的策略。LSRE 首先训练一个自编码器，将高维问题特征映射到二维潜在空间。通过该潜在空间中的均匀网格采样，可获得具有足够多样性的隐藏问题表示。利用基于遗传编程的方法搜索与这些隐藏表示在 L2 距离上最小的函数公式，LSRE 实现了从这些隐藏表示逆向工程出 diverse problem set，称为 \textbf{Diverse-BBO}。我们通过在 Diverse-BBO 上训练各种 MetaBBO 并观察其在合成或真实情景下的泛化性能来验证 LSRE 的有效性。大量实验结果凸显了 Diverse-BBO 在 MetaBBO 中优于现有训练集选择的优势。进一步的消融研究不仅展示了 LSRE 设计选择的有效性，也揭示了实例多样性与 MetaBBO 泛化性之间的有趣见解。