用于语义丰富人类移动建模的球面隐马尔可夫模型
机器学习
2020-10-06 v1 人工智能
计算与语言
机器学习
摘要
我们研究从语义轨迹数据建模人类移动的问题，其中轨迹中的每条 GPS 记录都关联一条描述用户活动的文本消息。现有方法在揭示人类移动规律性方面存在不足，因为它们要么完全不建模文本数据，要么严重受限于文本稀疏性。我们提出 SHMM，一种用于语义丰富人类移动建模的多模态球面隐马尔可夫模型。在隐马尔可夫假设下，SHMM 通过联合考虑轨迹每步的观测位置、时间与文本来建模给定轨迹的生成过程。SHMM 的区别性特征在于文本建模部分。我们使用定长向量表示来编码文本消息的语义，并在单位球面上用 von Mises-Fisher（vMF）分布建模 l2 归一化文本嵌入的生成。与多元高斯等其他替代方案相比，我们对 vMF 分布的选择不仅参数更少，而且更好地利用了文本嵌入在方向度量空间中的判别力。vMF 分布的参数推断并非易事，因为它涉及贝塞尔函数之比的函数求逆。我们从理论上证明：1）经典期望最大化算法可与 vMF 分布协同工作；且 2）尽管 M 步难以获得闭式解，但牛顿法保证以二次收敛速率收敛到最优解。我们在合成与真实数据上进行了大量实验。合成数据上的结果验证了我们的理论分析；而真实数据上的结果表明 SHMM 学习到有意义的语义丰富移动模型，在下个位置预测上优于最先进的移动模型，且训练成本更低。
引用
@article{arxiv.2010.01986,
title = {A Spherical Hidden Markov Model for Semantics-Rich Human Mobility Modeling},
author = {Wanzheng Zhu and Chao Zhang and Shuochao Yao and Xiaobin Gao and Jiawei Han},
journal= {arXiv preprint arXiv:2010.01986},
year = {2020}
}