用于蛋白质模拟器样本高效微调的Mixup增强元学习
机器学习
2023-10-11 v3 人工智能
生物大分子
摘要
分子动力学模拟已成为研究生物分子的基本工具。同时，人们希望在各种条件下对粒子集合进行模拟，使分子能够涨落。在本文中，我们探索并将基于软提示的学习方法适配于分子动力学任务。我们的模型在训练数据有限的情况下，能够显著泛化到未见过的和分布外的场景。虽然我们的工作以温度作为测试用例，但我们方法的通用性允许通过任何连续动态条件（如压力和体积）进行高效模拟。我们的框架分为两个阶段：1）使用数据混合技术进行预训练，增强分子结构数据和温度提示，然后通过平滑增加其比例来应用课程学习方法。2）基于元学习的微调框架提高了微调过程的样本效率，并为软提示调优提供了更好的初始化点。综合实验表明，我们的框架在域内数据的准确性上表现出色，并对未见过的和分布外的样本展现出强大的泛化能力。
引用
@article{arxiv.2308.15116,
title = {Mixup-Augmented Meta-Learning for Sample-Efficient Fine-Tuning of Protein Simulators},
author = {Jingbang Chen and Yian Wang and Xingwei Qu and Shuangjia Zheng and Yaodong Yang and Hao Dong and Jie Fu},
journal= {arXiv preprint arXiv:2308.15116},
year = {2023}
}