基于自适应批量大小的随机变分推断用于大规模离散选择模型
应用统计
2019-04-24 v4
摘要
离散选择模型描述了决策者在备选方案中做出的选择，在交通规划、市场研究和其他应用中发挥着重要作用。混合多项 Logit (MMNL) 模型是一种流行的离散选择模型，它通过随机系数捕捉决策者偏好的异质性。虽然马尔可夫链蒙特卡洛方法提供了估计 MMNL 模型的贝叶斯类比方法，但对于大型数据集，其计算成本可能过高。变分方法可以在较低的计算成本下获得具有竞争力的精度的近似推断。在本文中，我们开发了用于估计 MMNL 模型的变分方法，允许随机系数在后验中相关，并易于扩展到大规模数据集。我们探讨了三种替代方案：(1) Laplace 变分推断，(2) 非共轭变分消息传递，以及 (3) 随机线性回归。利用真实数据和模拟数据比较了它们的性能。为了加速大型数据集的收敛，我们针对上述每种替代方案开发了用于 MMNL 模型的随机变分推断。随机变分推断通过使用随机梯度近似优化全局变分参数，允许以小批量处理数据。本文提出了一种在随机变分推断中自适应增加小批量大小的新策略。
引用
@article{arxiv.1405.5623,
title = {Stochastic variational inference for large-scale discrete choice models using adaptive batch sizes},
author = {Linda S. L. Tan},
journal= {arXiv preprint arXiv:1405.5623},
year = {2019}
}