基于欲望函数的多目标优化与超参数调优

欲望函数方法是优化多个响应过程的广泛采用的方法。Kuhn (2016) 在统计编程语言 R 中实现了 desirability 和 desirability2 软件包，但尚无相当于 Python 的软件包。本文的目标是提供一种使用 sequential parameter optimization 框架中的 spotdesirability 软件包的介绍。该软件包可作为 sequential parameter optimization 框架的一部分提供。我们在介绍欲望函数方法后，给出三个示例，演示如何使用欲望函数进行 (i) 经典优化、(ii) 基于代理模型的优化和 (iii) 超参数调优。提出了扩展的 Morris-Mitchell 准则，允许计算搜索空间覆盖率，并用于处理优化中的探索-开发权衡。最后，引入 infill-diagnostic 图作为一种工具，用于可视化 infill 点的 locations 相对于已有点的关系。