编码器能否学习到用于 Hyperparameter 优化的热启动 Landmarker?
机器学习
2025-07-18 v1
摘要
有效地为 meta-learning 目的表示异构表格数据仍是开放问题。以往方法依赖旨为通用性而设计的表示。本文提出两种新颖方法,用于表格表示学习,这两种方法均针对特定 meta 任务——贝叶斯 Hyperparameter 优化的热启动而设计。两者都遵循我们自行制定的要求,以捕获 Landmarker 的属性。第一种方法涉及深度度量学习,第二种方法基于 Landmarker 重建。我们以两种方式评估所提出的编码器:除了目标 meta 任务中的性能提升外,我们还使用所提出要求的满足程度作为评估指标。实验表明,虽然所提出的编码器能够有效学习与 Landmarker 对齐的表示,但它们可能直接转化为在 HPO 热启动 meta 任务中获得显著性能提升。
引用
@article{arxiv.2507.12604,
title = {Are encoders able to learn landmarkers for warm-starting of Hyperparameter Optimization?},
author = {Antoni Zajko and Katarzyna Woźnica},
journal= {arXiv preprint arXiv:2507.12604},
year = {2025}
}