中文

CAISSON:基于自组织神经网络的概念增强推理套件

计算与语言 2024-12-05 v1 人工智能 信息检索 机器学习

摘要

我们提出了CAISSON,一种新颖的检索增强生成(RAG)分层方法,它将传统的单向量搜索转变为多视图聚类框架。CAISSON的核心是利用双自组织映射(SOM)来创建文档空间的互补视图,每个视图通过专门的嵌入捕获文档关系的不同方面。第一个视图处理组合的文本和元数据嵌入,而第二个视图则处理由概念嵌入增强的元数据,从而实现了全面的多视图分析,既能捕获细粒度的语义关系,也能捕获高层次的概念模式。这种双视图方法通过结合不同组织视角的证据,实现了更细致的文档发现。为了评估CAISSON,我们开发了SynFAQA,一个用于生成合成金融分析师笔记和问答对的框架,该系统性地测试了信息检索能力的不同方面。借鉴HotPotQA构建多步推理问题的方法,SynFAQA生成了受控测试用例,其中每个问题都与包含其真实答案的笔记集配对,从简单的单实体查询逐步过渡到涉及多个实体和概念的复杂多跳检索任务。我们的实验结果表明,与基础和增强的RAG实现相比,CAISSON取得了显著改进,尤其是在复杂的多实体查询方面,同时保持了实用的性能。

引用

@article{arxiv.2412.02835,
  title  = {CAISSON: Concept-Augmented Inference Suite of Self-Organizing Neural Networks},
  author = {Igor Halperin},
  journal= {arXiv preprint arXiv:2412.02835},
  year   = {2024}
}

备注

26 pages, 7 figures, 8 tables