面向大规模异常检测的全局时序图转换器 TGTOD
机器学习
2024-12-03 v1 社会与信息网络
摘要
尽管 Transformer 在 various 数据上取得了机器学习的巨大成功，但现有的时序图 Transformer 面临 (1) 受限的感受野、(2) 子图提取的开销以及 (3) 超越链接预测的最优泛化能力等局限。本文重新思考时序图 Transformer，提出一种 novel 的 end-to-end 时序图 Transformer 用于异常检测 TGTOD。TGTOD 采用全局注意力机制来建模时序图中的结构和时间依赖性。为解决可扩展性问题，我们的方法将大型时序图划分为时空块，然后由包含 Patch Transformer、Cluster Transformer 和 Temporal Transformer 的层次化 Transformer 架构进行处理。我们在三个公开数据集上按照两种设置进行评估，与广泛的基线方法进行比较。我们的实验结果表明 TGTOD 的有效性，在 Elliptic 数据集上实现了 61% 的 AP 提升。 Furthermore,我们的效率评估显示，TGTOD 的训练时间比现有时序图 Transformer 缩短了 44 倍。为促进可重复性，我们将实现代码公开于 https://github.com/kayzliu/tgtod。
引用
@article{arxiv.2412.00984,
title = {TGTOD: A Global Temporal Graph Transformer for Outlier Detection at Scale},
author = {Kay Liu and Jiahao Ding and MohamadAli Torkamani and Philip S. Yu},
journal= {arXiv preprint arXiv:2412.00984},
year = {2024}
}
备注
Preprint. Under review. Code available at https://github.com/kayzliu/tgtod