中文

Pramana:通过纳伽亚-尼亚ya将大型语言模型微调以实现知识推理

人工智能 2026-04-08 v1

摘要

大型语言模型虽能生成流畅的文本,但在系统性推理方面存在困难,常会生成自信但无依据的幻觉命题。当Apple研究人员将无关上下文添加到数学问题中时,LLM性能下降了65%,暴露了表面推理背后脆弱的模式匹配。这种知识差距——即无法对主张进行可追溯证据 grounding——限制了AI在需要依据的领域的可靠性。我们提出Pramana,通过在纳伽亚-尼亚ya逻辑(一种2500年古印度推理框架)上进行微调,教会LLM显式的认识论方法。不同于通用的链式思考提示,纳伽亚-尼ya强制执行结构化的6阶段推理:SAMSHAYA(疑惑分析)、PRAMANA(证据来源识别)、PANCHA AVAYAVA(5成员三段论,带有普遍规则)、TARKA(反事实验证)、HETVABHASA(谬误检测)、NIRNAYA(断定,区分知识与假设)。这种逻辑与认识论的融合为标准推理方法中缺失的认知支架。我们在55个尼亚ya结构逻辑问题(约束满足、布尔SAT、多步骤推理)上对Llama 3.2-3B和DeepSeek-R1-Distill-Llama-8B进行微调。阶段1在仅40%严格格式遵循的情况下即可实现100%语义正确性,表明模型即使在结构强制不完美时,也内化了推理内容。消融研究表明,格式提示和温度对性能影响显著,各阶段的最优配置不同。我们在Hugging Face上发布了所有模型、数据集和训练基础设施,以便进一步研究AI推理中认识论框架的应用。

关键词

引用

@article{arxiv.2604.04937,
  title  = {Pramana: Fine-Tuning Large Language Models for Epistemic Reasoning through Navya-Nyaya},
  author = {Sharath Sathish},
  journal= {arXiv preprint arXiv:2604.04937},
  year   = {2026}
}

备注

52 pages + appendices, comprehensive treatment of Navya-Nyaya computational formalization