面向异构多标签预测的FOCAL注意力机制
机器学习
2026-04-22 v1
摘要
异构图因其建模复杂现实系统中多类型实体与关系而受到越来越多的关注。基于异构图的多标签节点分类面临结构异构性和跨多个标签学习共享表征的挑战。现有方法通常采用灵活注意力机制或元路径受限锚定，但在异构多标签预测中常因语义稀释或覆盖约束而受限。这种问题在多标签监督下会被进一步放大。我们提出理论分析表明，随着异构邻域的扩大，分配给任务关键(主要)邻域注意力质量会逐渐下降；而元路径受限聚合又存在矛盾：元路径太少加剧覆盖约束，太多则重新引入稀释。为解决这种覆盖-锚定冲突，我们提出FOCAL：覆盖与锚定学习融合，包含两个组件：覆盖导向注意力(COA)用于灵活、无约束的异构上下文聚合，以及锚定导向注意力(AOA)将聚合限制在由元路径诱导的主要语义中。我们的理论分析和实验结果进一步表明，FOCAL在其他最先进方法之上具有更好的性能。
引用
@article{arxiv.2604.19171,
title = {FOCAL-Attention for Heterogeneous Multi-Label Prediction},
author = {Chenghao Zhang and Qingqing Long and Ludi Wang and Wenjuan Cui and Jianjun Yu and Yi Du},
journal= {arXiv preprint arXiv:2604.19171},
year = {2026}
}
备注
24 pages, 4 figures