在宗教问答中利用 RAG 提升 LLM 可靠性：MufassirQAS
计算与语言
2025-12-10 v6 人工智能
摘要
宗教教义有时复杂且难以理解，但聊天机器人可以作为该领域的有效助手。基于大语言模型（LLM）的聊天机器人由自然语言处理（NLP）驱动，能够连接相关主题并为复杂问题提供有充分依据的回答，使其成为宗教教育的宝贵工具。然而，LLM 容易产生幻觉，可能生成不准确或无关的信息，这些信息可能包含具有冒犯性、不当性或争议性的敏感内容。在处理此类主题时，如何避免无意中宣扬仇恨言论或不尊重某些信仰仍是一个重大挑战。作为这些问题的解决方案，我们引入了 MufassirQAS，这是一个利用向量数据库驱动的检索增强生成（RAG）方法来提升 LLM 准确性和透明度的系统。我们构建了一个数据集，包含伊斯兰文本的土耳其语翻译和解释的基础书籍。该数据库被用于回答宗教问题，同时确保回答保持可靠且有上下文依据。我们的系统还在 LLM 生成的回答旁展示相关的数据集段落，以增强透明度。我们精心设计了系统提示词以防止有害、冒犯性或不尊重的输出，确保回答符合道德和尊重的交流准则。此外，MufassirQAS 提供补充细节，如来源页码和引用文章，以增强可信度。为了评估其有效性，我们用敏感问题对 MufassirQAS 与 ChatGPT 进行了对比测试，我们的系统在保持准确性和可靠性方面表现出卓越的性能。未来的工作将集中于提高准确性并完善提示工程技术，以进一步减少偏见并确保更可靠的回答。
引用
@article{arxiv.2401.15378,
title = {Improving LLM Reliability with RAG in Religious Question-Answering: MufassirQAS},
author = {Ahmet Yusuf Alan and Enis Karaarslan and Omer Aydin},
journal= {arXiv preprint arXiv:2401.15378},
year = {2025}
}