自适应分解网络：学习自适应阶数的特征交互
机器学习
2020-06-25 v2 人工智能
信息检索
机器学习
摘要
已有多种基于分解的方法被提出，以利用二阶或更高阶交叉特征来提升预测模型的性能。这些方法通常在预定义的最大阶数下枚举所有交叉特征，然后通过模型训练识别有用的特征交互，存在两个缺陷。首先，它们不得不在高阶交叉特征的表达能力与计算成本之间权衡，导致次优预测。其次，枚举所有交叉特征（包括不相关的）可能引入噪声特征组合，从而降低模型性能。本文提出自适应分解网络（AFN），一种从数据中自适应学习任意阶交叉特征的新模型。AFN的核心是一个对数变换层，将特征组合中每个特征的指数转换为待学习的系数。在四个真实数据集上的实验结果证明了AFN相对于当前最优方法（SOTA）的优越预测性能。
引用
@article{arxiv.1909.03276,
title = {Adaptive Factorization Network: Learning Adaptive-Order Feature Interactions},
author = {Weiyu Cheng and Yanyan Shen and Linpeng Huang},
journal= {arXiv preprint arXiv:1909.03276},
year = {2020}
}
备注
Accepted by AAAI'20