CVTGAD：用于无监督图级别异常检测的简化Transformer与跨视图注意力机制
机器学习
2024-05-07 v1 人工智能
摘要
无监督图级别异常检测（UGAD）在化学分析和生物信息学等多个关键学科中取得了显著成效。现有的UGAD范式通常采用数据增强技术构建多个视图，然后采用不同策略从不同视图获取表示以联合进行UGAD。然而，大多数先前工作仅从有限的感受野考虑节点/图之间的关系，导致一些关键结构模式和特征信息被忽略。此外，现有方法大多以并行方式分别处理不同视图，无法直接探索不同视图间的相互关系。因此，需要一种具有更大感受野且能直接探索不同视图间相互关系的方法。本文提出了一种新颖的面向无监督图级别异常检测的简化Transformer与跨视图注意力机制，即CVTGAD。为增大感受野，我们构建了一个简化的基于Transformer的模块，从图内和图间两个角度利用节点/图之间的关系。此外，我们设计了一种跨视图注意力机制，直接利用不同视图间的视图共现性，在节点级和图级弥合视图间差距。据我们所知，这是首次将Transformer和交叉注意力应用于UGAD的工作，实现了图神经网络与Transformer的协同工作。在3个领域的15个真实世界数据集上的大量实验证明了CVTGAD在UGAD任务上的优越性。代码可在\url{https://github.com/jindongli-Ai/CVTGAD}获取。
引用
@article{arxiv.2405.02359,
title = {CVTGAD: Simplified Transformer with Cross-View Attention for Unsupervised Graph-level Anomaly Detection},
author = {Jindong Li and Qianli Xing and Qi Wang and Yi Chang},
journal= {arXiv preprint arXiv:2405.02359},
year = {2024}
}