基于知识图谱专家混合的常识推理内容生成多样化
计算与语言
2022-03-15 v1 人工智能
摘要
自然语言中的生成式常识推理（GCR）是指在生成连贯文本的同时对常识进行推理。近年来，人们对提升常识推理任务生成质量的兴趣激增。然而，这些方法很少探究 GCR 任务中的多样性，即旨在为真实世界情境生成替代性解释或预测所有可能的结果。使 GCR 多样化具有挑战性，因为它期望生成多个不仅在语义上不同而且基于常识知识的输出。本文中，我们提出 MoKGE，一种通过常识知识图谱（KG）上的专家混合（MoE）策略使生成式推理多样化的新方法。一组知识专家在 KG 上寻求多样化推理以鼓励各种生成输出。实证实验表明，基于自动和人工评估，MoKGE 在两个 GCR 基准上能显著提升多样性，同时在准确率上取得相当的性能。
引用
@article{arxiv.2203.07285,
title = {Diversifying Content Generation for Commonsense Reasoning with Mixture of Knowledge Graph Experts},
author = {Wenhao Yu and Chenguang Zhu and Lianhui Qin and Zhihan Zhang and Tong Zhao and Meng Jiang},
journal= {arXiv preprint arXiv:2203.07285},
year = {2022}
}
备注
ACL 2022 (Findings); Code is at https://github.com/DM2-ND/MoKGE