双轴 Transformer：解决 EHR 分类的日益复杂问题

电子健康记录（EHR）是患者医学史的数字表示，对于流行病学和临床研究具有重要价值。但近年来趋势表明数据集规模扩大、时间序列延长以及多模态集成日益复杂。Transformer 由于在自然语言处理等领域取得成功，能够建模长程依赖并并行处理数据，已成为解决这些挑战的理想方法。但其在 EHR 分类中的应用仍受数据表示形式的限制，可能降低性能或无法捕获信息丢失。本文提出双轴 Transformer（BAT），它同时关注 EHR 数据的临床变量轴和时间点轴，以学习更丰富的数据关系，解决数据稀疏问题。BAT 在败血症预测上实现了最新性能，对于死亡率分类也表现出竞争力。与其他 Transformer 相比，BAT 对数据缺失更鲁�棒，学习到的唯一传感器嵌入可用于迁移学习。重新实现的基线模型之前分布在多个仓库或使用已弃用的库，现已使用 PyTorch 实现并公开，以便复现和未来基准测试。