面积保持注意力通道用于分子性质预测中的图变换器
机器学习
2026-02-19 v5 人工智能
摘要
分子性质预测在标注数据稀缺时对于药物发现至关重要。本文提出了 CardinalGraphFormer，这是一种增强型图变换器，配备查询条件化的面积保持注意力（CPA）通道，保留动态支持大小信号，以补充静态中心性嵌入。该方法将结构化稀疏注意力与图变换器式的偏置（最短路径距离、中心性、直接键特征）相结合，并采用统一的双目标自监督预训练（掩码重建和对比对齐增强视图）。在覆盖 MoleculeNet、OGB 和 TDC ADMET 的 11 个公开基准测试上，评估结果显示，在匹配的预训练、优化和超参数调优条件下，方法优于协议匹配的基线。严格的消融实验确认了 CPA 的贡献，排除了简单大小捷径。提供代码和可重复性制品。
引用
@article{arxiv.2602.02201,
title = {Cardinality-Preserving Attention Channels for Graph Transformers in Molecular Property Prediction},
author = {Abhijit Gupta},
journal= {arXiv preprint arXiv:2602.02201},
year = {2026}
}