基于可微窗口变换学习排序归一化熵曲线
机器学习
2023-01-26 v1 人工智能
摘要
近年的自动化机器学习系统常使用学习曲线排序模型来指导何时停止无望试验及识别更优模型配置的决策。本文提出一种新颖的学习曲线排序模型，专门用于对归一化熵（NE）学习曲线进行排序，此类曲线常用于在线广告与推荐系统。我们提出的模型——自适应曲线变换增强的相对曲线排序（ACTR2）——具有一个自适应曲线变换层，将原始生命周期 NE 曲线转换为复合窗口 NE 曲线，其窗口大小基于学习曲线上的位置与曲线动态自适应优化。我们还针对所提自适应曲线变换引入一种新颖的可微索引方法，使关于离散索引的梯度可自由流经曲线变换层，从而令学习到的窗口大小能在训练中灵活更新。此外，我们提出一种成对曲线排序架构，直接对两条学习曲线之间的差异建模，相比现有逐条曲线建模的方法，更善于捕捉相对性能中的细微变化。我们在真实世界 NE 曲线数据集上的大量实验证明了 ACTR2 各关键组件的有效性及其相对于 state-of-the-art 的改进性能。
引用
@article{arxiv.2301.10443,
title = {Learning to Rank Normalized Entropy Curves with Differentiable Window Transformation},
author = {Hanyang Liu and Shuai Yang and Feng Qi and Shuaiwen Wang},
journal= {arXiv preprint arXiv:2301.10443},
year = {2023}
}
备注
13 pages