在编码时空数据上从头训练 GPT-2 以生成个体轨迹
机器学习
2023-08-17 v1 人工智能
摘要
继 Mizuno、Fujimoto 和 Ishikawa 的研究（Front. Phys. 2022）之后，我们将以经纬度表示的地理坐标转换为体现不同空间尺度位置的独特位置令牌（location tokens）。我们通过向位置令牌添加独特的时间间隔令牌，将个体每日轨迹封装为令牌序列。利用自回归语言模型 GPT-2 的架构，该令牌序列被从头训练，使我们能够构建一个顺序生成个体每日轨迹的深度学习模型。气象条件等环境因素以及性别、年龄等个体属性由独特的特殊令牌表示，通过在 GPT-2 架构上训练这些令牌与轨迹，我们可以生成同时受环境因素和个体属性影响的轨迹。
引用
@article{arxiv.2308.07940,
title = {Generating Individual Trajectories Using GPT-2 Trained from Scratch on Encoded Spatiotemporal Data},
author = {Taizo Horikomi and Shouji Fujimoto and Atushi Ishikawa and Takayuki Mizuno},
journal= {arXiv preprint arXiv:2308.07940},
year = {2023}
}