ANALOGYKB：以百万级知识库释放语言模型的类比推理能力
计算与语言
2024-05-20 v2 人工智能
摘要
类比推理是人类的一种基本认知能力。然而，由于缺少用于模型训练的资源，当前语言模型（LMs）在类比推理任务中仍难以达到类人表现。在这项工作中，我们通过提出 ANALOGYKB 来弥补这一缺口，这是一个从现有知识图谱（KGs）衍生的百万级类比知识库（KB）。ANALOGYKB 从 KGs 中识别两类类比：1）相同关系的类比，可直接从 KGs 抽取；2）类比关系的类比，通过由大语言模型（LLMs）支撑的筛选与过滤流程识别，并辅以少量人工进行数据质量控制。在两类类比推理任务（类比识别与生成）的一系列数据集上的评估表明，ANALOGYKB 成功使较小型 LMs 与 LLMs 均获得更好的类比推理能力。
引用
@article{arxiv.2305.05994,
title = {ANALOGYKB: Unlocking Analogical Reasoning of Language Models with A Million-scale Knowledge Base},
author = {Siyu Yuan and Jiangjie Chen and Changzhi Sun and Jiaqing Liang and Yanghua Xiao and Deqing Yang},
journal= {arXiv preprint arXiv:2305.05994},
year = {2024}
}
备注
Accepted to ACL 2024