CatMADS：用于混合变量约束黑盒优化的网格自适应直接搜索

求解函数为黑盒且变量涉及不同类型的优化问题，存在显著的理论和算法挑战。然而，这类设置在仿真驱动的工程设计和机器学习中频繁出现。本文将 Mesh Adaptive Direct Search (MADS) 算法扩展到解决混合变量问题，其中包括类别变量、整数变量和连续变量。MADS 是一种鲁棒的无导数优化框架，已有成熟的约束定量问题收敛性分析。CatMADS 通过引入基于距离诱导的邻域来集成类别变量。提供了 CatMADS 的详细收敛分析，可灵活选择在计算成本与局部最优性强度之间进行权衡。引入四种混合变量局部最小值的类型，对应逐步增强的局部最优性概念。CatMADS 集成了渐进屏障策略以处理约束，确保满足 Clarke 稳定性。所提出的 \catmads 实例采用交叉验证构建问题特定的类别距离。该实例在 32 个混合变量问题上与最先进的求解器进行比较，其中一半具有约束条件。数据轮廓显示，CatMADS 取得最佳结果，表明该框架在实际应用中具有良好的效率，同时具备强大的理论基础。