PACIA:面向少样本分子性质预测的参数高效适配器
机器学习
2024-10-16 v2 人工智能
摘要
分子性质预测(MPP)在生物医学应用中起着关键作用,但由于标记数据稀缺而常遇挑战。现有工作通常采用基于梯度的策略更新大量参数以实现任务级适配。然而,自适应参数的增加会导致过拟合与性能下降。观察到图神经网络(GNN)作为编码器与预测器均表现良好,我们提出PACIA,一种面向少样本MPP的参数高效GNN适配器。我们设计统一适配器生成少量自适应参数以调制GNN的消息传递过程。随后采用层次适配机制,通过该统一GNN适配器在任务级适配编码器、在查询级适配预测器。大量结果表明,PACIA在少样本MPP问题上取得最先进性能,且我们提出的层次适配机制合理有效。
引用
@article{arxiv.2310.00614,
title = {PACIA: Parameter-Efficient Adapter for Few-Shot Molecular Property Prediction},
author = {Shiguang Wu and Yaqing Wang and Quanming Yao},
journal= {arXiv preprint arXiv:2310.00614},
year = {2024}
}
备注
18pages