中文

子图检索增强图-文本对齐用于常识问答

机器学习 2024-11-12 v1 人工智能 计算与语言 社会与信息网络

摘要

常识问答是一项关键任务,要求机器根据常识进行推理。此前研究主要采用提取与建模范式来利用知识图谱中的信息,即首先基于预定义规则提取相关子图,然后设计多种策略以提升所提取结构知识的表示与融合效果。尽管这些方法有效,但仍存在两个挑战。一方面,基于规则提取的子图可能遗漏关键节点并导致子图规模不可控。另一方面,图与文本模态之间的错位削弱了知识融合的效果,最终影响任务性能。为解决上述问题,我们提出了一种新框架:子图检索增强图-文本对齐(SEPTA)。首先,我们将知识图谱转换为子图向量数据库,并提出一种类BFS的子图采样策略以避免信息损失,该策略利用了BFS与消息传递机制之间的类比关系。此外,我们提出了一种双向对比学习方法用于图-文本对齐,有效增强了子图检索与知识融合。最后,所有检索到的信息在预测模块中结合用于推理。在五个数据集上的大量实验证明了该框架的有效性与鲁棒性。

关键词

引用

@article{arxiv.2411.06866,
  title  = {Subgraph Retrieval Enhanced by Graph-Text Alignment for Commonsense Question Answering},
  author = {Boci Peng and Yongchao Liu and Xiaohe Bo and Sheng Tian and Baokun Wang and Chuntao Hong and Yan Zhang},
  journal= {arXiv preprint arXiv:2411.06866},
  year   = {2024}
}

备注

Accepted by ECML PKDD 2024