多目标 AutoML 的超参数重要性分析

超参数优化在提高机器学习模型的预测性能和泛化能力方面起着关键作用。然而，在许多应用中，我们不仅关心预测性能，还关心推理时间、内存或能源消耗等额外目标。在此类多目标场景下，确定超参数的重要性是一个显着挑战，因为存在复杂的目标间相互作用。在本文中，我们提出了首个用于评估多目标超参数优化中超参数重要性的方法。我们的方法利用基于代理的超参数重要性措施，即 fANOVA 和 ablation paths，提供有关超参数对优化目标影响的见解。具体而言，我们计算 a-priori 对目标进行标量化，并确定不同目标权衡下的超参数重要性。通过对多样化基准数据集进行大量实验评估，该方法在三个不同的目标对上进行了有效且稳健的验证，每个目标对均以准确率为基础，分别包括时间、人口公平性损失和能源消耗。我们的发现不仅为多目标优化任务中的超参数调优提供了有价值的指导，而且也推动了对复杂优化场景下超参数重要性理解的进展。