序列到集合生成模型
机器学习
2022-09-20 v1
摘要
在本文中,我们提出一种序列到集合方法,可将任何基于最大似然的序列生成模型转化为集合生成模型,从而能够评估任意集合的效用/概率。设计了一种高效的重要性采样算法来应对学习我们序列到集合模型的计算挑战。我们提出 GRU2Set,它是我们序列到集合方法的一个实例,并采用著名的 GRU 模型作为序列生成模型。为了进一步获得集合的置换不变表示,我们设计了 SetNN 模型,它也是序列到集合模型的一个实例。我们模型的一个直接应用是从电商订单集合中学习订单/集合分布,这是诸如快速交付的库存安排等许多重要运营决策中的关键步骤。基于小尺寸集合通常比大尺寸集合更易学习的直觉,我们提出一种尺寸偏置技巧,可帮助学习更好的关于 -距离评估度量的集合分布。使用两个电商订单数据集 TMALL 和 HKTVMALL 进行大量实验以展示我们模型的有效性。实验结果表明,我们的模型比基线能从订单数据中学习更好的集合/订单分布。此外,无论使用何种模型,应用尺寸偏置技巧总能提升从数据中学到的集合分布的质量。
引用
@article{arxiv.2209.08801,
title = {Sequence-to-Set Generative Models},
author = {Longtao Tang and Ying Zhou and Yu Yang},
journal= {arXiv preprint arXiv:2209.08801},
year = {2022}
}
备注
Accepted for NeurIPS 2022