中文

通过自注意力建模选择行为

人工智能 2024-02-09 v2 机器学习

摘要

选择模型是运筹管理领域中许多如今已成为经典的最优化问题(包括 assortment、库存与定价优化)的基本输入。自然地,从数据中准确估计这些模型是在实践中应用这些最优化问题的关键一步。同时,深度学习的近期进展激发了将这些技术整合进选择建模的兴趣。然而,在深度学习与选择建模的交叉点上存在明显的研究空白,尤其缺乏理论与实证基础。受此驱动,我们首先提出一个选择模型,它是首个成功(在理论与实践中)利用现代神经网络架构概念(自注意力)的模型。在理论上,我们表明基于注意力的选择模型是 Halo 多项 Logit(Halo-MNL)模型的低秩推广。我们证明,尽管 Halo-MNL 需要 Ω(m2)\Omega(m^2) 个数据样本来估计(其中 mm 为产品数量),我们的模型支持一个自然的非凸估计量(特别地,即标准神经网络实现会采用的估计量),该估计量能以 O(m)O(m) 个样本达到近最优驻点。此外,我们建立了首个基于真实数据的选择模型估计的现实规模基准,对现有模型进行了迄今为止最广泛的评估,从而凸显了我们模型的优越性能。

关键词

引用

@article{arxiv.2311.07607,
  title  = {Modeling Choice via Self-Attention},
  author = {Joohwan Ko and Andrew A. Li},
  journal= {arXiv preprint arXiv:2311.07607},
  year   = {2024}
}