BiScale-GTR：面向多尺度分子表示学习的片段感知图变换器
机器学习
2026-04-09 v1 人工智能
摘要
图变换器最近因将图神经网络（GNNs）的归纳偏置与变换器的全局感受野相结合，受到分子属性预测的关注。然而，许多现有混合架构仍以 GNN 为主导，导致表示主要受局部消息传递的影响。此外，大多数现有方法仅在单一结构粒度上运行，限制了其捕获跨越多尺度分子模式的能力。我们引入 BiScale-GTR，一个用于自监督分子表示学习的统一框架，结合基于化学的片段标记化与自适应多尺度推理。我们改进图字节编码（BPE）标记化，以产生一致的、化学有效的和高覆盖率的片段标记，这些标记作为片段级别的输入用于并行的 GNN-变换器架构。在架构方面，由 GNN 学习的原子级别表示被汇聚为片段级别的嵌入，并与片段标记嵌入融合后用于变换器推理，从而实现对局部化学环境、次结构水平的 motifs 以及长程分子依赖关系的联合捕获。在 MoleculeNet、PharmaBench 和 Long Range Graph Benchmark（LRGB）上的实验表明，BiScale-GTR 在分类和回归任务上均实现了最先进的性能。归因分析进一步显示，BiScale-GTR 突出了化学上有意义的功能 motifs，提供了分子结构与预测属性之间的可解释链接。代码将在接受后发布。
引用
@article{arxiv.2604.06336,
title = {BiScale-GTR: Fragment-Aware Graph Transformers for Multi-Scale Molecular Representation Learning},
author = {Yi Yang and Ovidiu Daescu},
journal= {arXiv preprint arXiv:2604.06336},
year = {2026}
}