面向多方对话回复生成的期望最大化预训练方法

对话回复生成要求智能体根据当前对话历史生成回复，其中双方对话已得到充分研究，但同时也给多方对话留下了巨大差距。与双方对话中每条回复都是对其前一条话语的直接应答不同，在多方场景下，回复话语的受话人应在生成前被指定。得益于海量的双方对话数据，已有多种面向双方对话回复生成的预训练语言模型被提出。然而，由于多方对话数据集缺乏标注的受话人标签，难以利用它们为多方对话预训练回复生成模型。为克服这一障碍，我们提出一种期望最大化（Expectation-Maximization, EM）方法，迭代执行期望步以生成受话人标签，以及最大化步以优化回复生成模型。理论分析与大量实验证明了我们所提方法的可行性与有效性。