生物医学领域关系分类的可迁移神经网络模型中什么最重要？

缺乏足够的标注数据通常限制了高级机器学习算法在现实问题中的适用性。然而，迁移学习 (Transfer Learning, TL) 的高效利用已被证明在各领域非常有用。TL 将在一个任务（源任务）中学习到的宝贵知识（在该任务中有充足的数据可用）迁移到感兴趣的任务（目标任务）中。在生物医学和临床领域，由于缺乏足够的训练数据而无法充分利用机器学习模型的情况非常普遍。在这项工作中，我们提出了两个统一的循环神经网络模型，构成了用于关系分类任务的三个迁移学习框架。我们系统地研究了所提出的框架在源任务和目标任务相关的多个方面下迁移知识的效果，例如源任务与目标任务之间的相似性或相关性，以及源任务的训练数据规模。我们的实证结果表明，所提出的框架总体上提升了模型性能，但这些提升确实取决于与源任务和目标任务相关的方面。这种依赖关系最终决定了对特定 TL 框架的选择。