用于聚合分子图的联合嵌入预测架构进行自监督预训练
机器学习
2025-06-25 v1
摘要
近期机器学习 (ML) 的进展在通过辅助任务（如属性预测中的虚拟筛选）加速具有所需属性的聚合物的发现方面显示出前景。然而，聚合物 ML 的进展受限于高质量标记数据集的稀缺，这些数据集是训练监督式 ML 模型所必需的。本文研究了将最新应用的“联合嵌入预测架构” (JEPA) 用于聚合物分子图的自监督学习 (SSL) 方法，以了解是否通过所提出的 SSL 策略进行预训练可提高在标记数据稀缺时的下游性能。我们的结果表明，基于 JEPA 的自监督预训练在聚合物图上可增强下游性能，尤其是在标记数据非常稀缺时，所有测试数据集均实现性能提升。
引用
@article{arxiv.2506.18194,
title = {Joint Embedding Predictive Architecture for self-supervised pretraining on polymer molecular graphs},
author = {Francesco Piccoli and Gabriel Vogel and Jana M. Weber},
journal= {arXiv preprint arXiv:2506.18194},
year = {2025}
}