在终身机器学习中使用任务描述以提升性能与零样本迁移
机器学习
2017-10-12 v1 机器学习
摘要
任务间的知识迁移可以提升学习模型的性能,但这需要准确估计任务间关系以识别要迁移的相关知识。这些任务间关系通常基于每个任务的训练数据进行估计,这在终身学习环境中效率低下,因为其目标是从尽可能少的数据中快速学习每个连续任务。为减轻这一负担,我们开发了一种基于耦合字典学习的终身学习方法,利用高层任务描述来建模任务间关系。我们展示了使用任务描述符能提升所学任务策略的性能,既提供了对该益处的理论论证,也通过多种学习问题上的实验证明了改进。仅凭新任务的描述符,终身学习者还能通过使用耦合字典的零样本学习准确预测新任务的模型,从而无需在应对任务前收集训练数据。
引用
@article{arxiv.1710.03850,
title = {Using Task Descriptions in Lifelong Machine Learning for Improved Performance and Zero-Shot Transfer},
author = {David Isele and Mohammad Rostami and Eric Eaton},
journal= {arXiv preprint arXiv:1710.03850},
year = {2017}
}
备注
28 pages