面向电商检索式问答系统迁移学习的领域关系建模
计算与语言
2017-11-27 v1
摘要
本文中,我们研究针对PI(释义识别)和NLI(自然语言推理)问题的迁移学习,旨在提出一个通用框架,能够有效且高效地将从资源丰富的源领域学到的共享知识适配到资源匮乏的目标领域。具体而言,由于大多数现有迁移学习方法仅关注跨领域共享特征空间的学习,而忽略了源领域与目标领域之间的关系,我们提出在一个统一框架中同时学习共享表示与领域关系。此外,我们通过结合基于句子编码的方法与基于句子交互的方法,提出了一个高效且有效的混合模型作为基础模型。在释义识别与自然语言推理上的大量实验表明,我们的基础模型高效且相较竞争模型具有良好性能,并且我们的迁移学习方法能显著提振性能。进一步分析显示,我们的模型所捕获的域间与域内关系具有洞察性。最后但同样重要的是,我们将用于PI的迁移学习模型部署到在线聊天机器人系统中,相较现有系统可带来显著改进。最终,我们在电商网站AliExpress的聊天机器人平台Eva上上线了新系统。
引用
@article{arxiv.1711.08726,
title = {Modelling Domain Relationships for Transfer Learning on Retrieval-based Question Answering Systems in E-commerce},
author = {Jianfei Yu and Minghui Qiu and Jing Jiang and Jun Huang and Shuangyong Song and Wei Chu and Haiqing Chen},
journal= {arXiv preprint arXiv:1711.08726},
year = {2017}
}
备注
9