在结构化生物医学领域中强制预测不变性
机器学习
2020-10-08 v3 机器学习
摘要
许多生化应用（如分子性质预测）要求模型能泛化至其训练域（环境）之外。此外，这些任务中的自然环境是结构化的，由分子骨架或蛋白质家族等复杂描述符定义。因此，大多数环境在训练期间要么从未出现，要么仅含单个训练样本。为应对这些挑战，我们提出一种新的后悔最小化（RGM）算法及其针对结构化环境的扩展。RGM 从不变风险最小化（IRM）出发，将同时最优性条件重述为预测后悔的形式，寻找一种表示使预测器能针对具有后见之明访问留出环境的预言机进行竞争。结构化扩展通过专门的域扰动自适应地突出由复杂环境引起的变异。我们在多个应用上评估了我们的方法：分子性质预测、蛋白质同源性与稳定性预测，并表明 RGM 显著优于先前最先进的基线。
引用
@article{arxiv.2006.03908,
title = {Enforcing Predictive Invariance across Structured Biomedical Domains},
author = {Wengong Jin and Regina Barzilay and Tommi Jaakkola},
journal= {arXiv preprint arXiv:2006.03908},
year = {2020}
}