通过 LLM 增强表示相似度融合推进学术知识检索
信息检索
2024-10-15 v1 计算与语言
机器学习
摘要
在技术快速发展和信息更新迅速的时代,为科研人员和公众提供跨领域的高质量前沿学术见解已成为迫切需求。KDD Cup 2024 AQA 挑战旨在推进检索模型,以从适合的论文中识别科学查询相关的学术术语。本文提出了 Robo Space 团队的 LLM-KnowSimFuser 方法,在竞赛中获得第二名成绩。该方法灵感来源于 LLM 在多项任务上的卓越性能,经仔细分析数据集后,我们首先对预训练检索模型进行微调和推理,以引入 LLM 的强大语言理解和开放领域知识,随后基于推理结果得到的相似度矩阵进行加权融合。在竞赛数据集上的实验表明,我们方法的优越性,其在最终排行榜上的得分为 0.20726。
引用
@article{arxiv.2410.10455,
title = {Advancing Academic Knowledge Retrieval via LLM-enhanced Representation Similarity Fusion},
author = {Wei Dai and Peng Fu and Chunjing Gan},
journal= {arXiv preprint arXiv:2410.10455},
year = {2024}
}
备注
The 2nd Place of KDD Cup 2024 OAG-Challenge AQA