面向不平衡分子数据的基于图的双向 Transformer 决策阈值调整算法
机器学习
2024-09-05 v3 定量方法
摘要
数据集中类别大小不平衡的情况经常发生，其中一种类别的大小远小于其他类别，广泛存在于包括生物学基础应用在内的许多场景，如疾病诊断和药物发现。因此，能够识别不同大小类别的数据元素的能力至关重要，若未能做到则可能造成巨大的成本。然而，许多数据分类程序在处理不平衡数据集时表现不佳，往往难以检测属于少数类的要素。在本工作中，我们提出了 BTDT-MBO 算法，融合 Merriman-Bence-Osher（MBO）方法、双向 Transformer，以及距离相关性和决策阈值调整，用于高度不平衡分子数据集上的数据分类任务，其中类别大小差异巨大。所提出的技术不仅集成了针对 MBO 算法分类阈值的调整，以帮助处理类别不平衡问题，还基于注意力机制的双向 Transformer 程序用于自监督学习。此外，该模型在其作用的基于距离相关性的相似图框架上实现了距离相关性作为权重函数。该方法使用六个分子数据集进行验证，并与其他相关技术进行比较。计算实验表明，即使在高度不平衡的类别比率下，所提出的技术也优于竞争方法。
引用
@article{arxiv.2406.06479,
title = {Graph-Based Bidirectional Transformer Decision Threshold Adjustment Algorithm for Class-Imbalanced Molecular Data},
author = {Nicole Hayes and Ekaterina Merkurjev and Guo-Wei Wei},
journal= {arXiv preprint arXiv:2406.06479},
year = {2024}
}