一种用于点击率预测中强交互自动发现的通用方法
信息检索
2021-05-24 v1
摘要
建模强交互是点击率（CTR）预测中的关键挑战，而点击率预测是个性化广告与推荐系统中最典型的机器学习任务之一。尽管开发手工设计的交互对少量数据集有效，但在大量场景中通常需要费力繁琐的架构工程。近年来，已有若干神经架构搜索（NAS）方法被提出用于自动设计交互。然而，现有方法仅探索了用于交互生成的有限类型的算子及其连接，导致泛化能力低下。为解决这些问题，我们提出了一种名为 AutoPI 的更通用的自动化构建强交互的方法。本文的主要贡献如下：AutoPI 采用更通用的搜索空间，其中计算图由现有网络连接推广而来，且图中边上的交互算子提取自具代表性的手工设计工作。它允许搜索各种强特征交互，从而在广泛应用中产生更高的 AUC 和更低的 Logloss。此外，AutoPI 利用基于梯度的搜索策略以极低的计算成本进行探索。在实验上，我们在一套多样化的基准数据集上评估了 AutoPI，展示了 AutoPI 相对于手工架构和最先进 NAS 算法的泛化能力与效率。
引用
@article{arxiv.2105.10484,
title = {A General Method For Automatic Discovery of Powerful Interactions In Click-Through Rate Prediction},
author = {Ze Meng and Jinnian Zhang and Yumeng Li and Jiancheng Li and Tanchao Zhu and Lifeng Sun},
journal= {arXiv preprint arXiv:2105.10484},
year = {2021}
}
备注
Accepted by ACM SIGIR 2021