生命序列 Transformer：基于行政数据的社会经济轨迹生成式建模
计量经济学
2026-01-23 v2 统计方法学
摘要
基于 Transformer 架构的生成式建模能够模拟跨多种应用的复杂序列结构。我们将这一研究方向扩展至社会科学领域，引入了一种专为纵向社会经济数据定制的基于 Transformer 的生成式模型。我们的贡献在于：（i）我们设计了一种新颖的编码方法，将社会经济生命史表示为序列，包含跨生命领域的重叠事件；（ii）我们改进了生成式建模技术，以模拟以过往历史为条件的合理替代生命轨迹。利用来自意大利社会保障管理局（INPS）的大规模数据，我们表明该模型可进行大规模训练，能够复现与已知因果关系一致的 realistic 劳动力市场模式，并生成连贯的假设生命路径。这项工作证明了社会经济轨迹生成式建模的可行性，并为以政策为导向的研究开辟了新机遇，其中反事实生成是一个极具前景的应用方向。
引用
@article{arxiv.2506.01874,
title = {Life Sequence Transformer: Generative Modelling of Socio-Economic Trajectories from Administrative Data},
author = {Alberto Cabezas and Carlotta Montorsi},
journal= {arXiv preprint arXiv:2506.01874},
year = {2026}
}