Verif.ai：面向开源科学生成式问答系统，提供可引用和可验证的答案
信息检索
2024-04-11 v1 人工智能
计算与语言
机器学习
摘要
在本文中，我们介绍了 Verif.ai 项目的当前进展，这是一个开源的、具有引用和验证答案的科学生成式问答系统。该系统的组成部分包括：(1) 一个结合了语义和词汇搜索技术对科学论文 (PubMed) 进行检索的信息检索系统；(2) 一个微调的生成模型 (Mistral 7B)，它接收最佳答案并生成带有引用来源论文的答案；(3) 一个验证引擎，它交叉检查生成的声明与声明来源的摘要或论文，验证生成声明时是否存在幻觉。我们通过提供上下文中的摘要来增强生成模型，此外，一组独立的方法和模型正在验证答案并检查幻觉。因此，我们相信通过使用我们的方法，可以提高科学家的工作效率，同时建立对在科学环境中使用生成语言模型的信任，而在科学环境中，幻觉和错误信息是不可容忍的。
引用
@article{arxiv.2402.18589,
title = {Verif.ai: Towards an Open-Source Scientific Generative Question-Answering System with Referenced and Verifiable Answers},
author = {Miloš Košprdić and Adela Ljajić and Bojana Bašaragin and Darija Medvecki and Nikola Milošević},
journal= {arXiv preprint arXiv:2402.18589},
year = {2024}
}
备注
Accepted as a short paper at The Sixteenth International Conference on Evolving Internet (INTERNET 2024)