抽象摘要生成器向低资源语言的跨语言迁移

自动文本摘要从文本中提取重要信息并以摘要形式呈现。抽象式摘要方法通过转向深度神经网络取得了显著进展，但结果尚不令人满意，尤其对于不存在大型训练集的语言。在若干自然语言处理任务中，跨语言模型迁移已成功应用于低资源语言。对于摘要，由于神经模型的解码器侧不可复用、无法纠正目标语言生成，跨语言模型迁移此前未被尝试。在我们的工作中，我们使用基于深度神经网络与序列到序列架构的预训练英文摘要模型来摘要斯洛文尼亚语新闻文章。我们通过使用额外的语言模型来评估目标语言生成文本，从而解决解码器不足的问题。我们测试了多种具有不同数量目标数据用于微调的跨语言摘要模型。我们用自动评价指标评估这些模型并进行了小规模的人工评价。自动评价显示，我们最佳跨语言模型的摘要是有用的，且质量与仅在目标语言上训练的模型相近。人工评价显示，我们最佳模型生成的摘要有高准确率和可接受的可读性。然而，与其他抽象式模型类似，我们的模型并不完美，可能偶尔产生误导性或荒谬的内容。