用于生物序列离线设计的分数条件生成器的引导式训练
定量方法
2024-03-26 v2 机器学习
机器学习
摘要
我们研究优化生物序列(如蛋白质、DNA 和 RNA)以最大化仅在离线数据集中评估的黑盒分数函数的问题。我们提出一种新颖的解决方案——分数条件生成器的引导式训练(BootGen)算法。我们的算法重复一个两阶段过程。第一阶段,我们的算法以基于排序的权重训练生物序列生成器,以提升基于高分数进行序列生成的准确性。后续阶段涉及引导,其利用代理分数函数标注的自生成数据扩充训练数据集。我们的核心思想是将基于分数的生成与代理分数函数对齐,从而将代理分数函数的知识蒸馏至生成器。训练后,我们聚合来自多个引导式生成器与代理的样本以产生多样化设计。大量实验表明,我们的方法在生物序列设计任务上优于具有竞争力的基线。我们提供可复现的源代码:\href{https://github.com/kaist-silab/bootgen}{https://github.com/kaist-silab/bootgen}。
引用
@article{arxiv.2306.03111,
title = {Bootstrapped Training of Score-Conditioned Generator for Offline Design of Biological Sequences},
author = {Minsu Kim and Federico Berto and Sungsoo Ahn and Jinkyoo Park},
journal= {arXiv preprint arXiv:2306.03111},
year = {2024}
}
备注
NeurIPS 2023, 19 pages, 5 figures