用于检索式聊天机器人多轮回复选择的说话人感知 BERT
计算与语言
2020-07-31 v2
摘要
本文研究在检索式聊天机器人中采用预训练语言模型进行多轮回复选择的问题。为了令模型感知说话人切换信息（这是多轮对话重要且固有的属性），提出了一种名为说话人感知 BERT（SA-BERT）的新模型。此外，提出了一种说话人感知解纠缠策略以应对纠缠对话。该策略根据话语中的说话人信息，筛选出少量最重要的话语作为过滤后的上下文。最后，进行领域自适应以将领域内知识融入预训练语言模型。在五个公开数据集上的实验表明，我们所提模型在所有指标上大幅优于现有模型，并取得了多轮回复选择的新 SOTA 性能。
引用
@article{arxiv.2004.03588,
title = {Speaker-Aware BERT for Multi-Turn Response Selection in Retrieval-Based Chatbots},
author = {Jia-Chen Gu and Tianda Li and Quan Liu and Zhen-Hua Ling and Zhiming Su and Si Wei and Xiaodan Zhu},
journal= {arXiv preprint arXiv:2004.03588},
year = {2020}
}
备注
Accepted by CIKM 2020