基于强相关逻辑的前向推理自动生成海量合理经验定理——LLM 预训练数据耗尽问题的一种解决方案

Jingde Cheng

基于强相关逻辑的前向推理自动生成海量合理经验定理——LLM 预训练数据耗尽问题的一种解决方案

人工智能 2024-12-18 v1

作者: Jingde Cheng

摘要

最近，常有人说大型语言模型（LLMs）的预训练数据已经耗尽。本文针对该问题提出了一种解决方案：基于强相关逻辑的前向推理自动生成海量合理经验定理。事实上，这可以被视为我们解决 ATF（Automated Theorem Finding）和 AKA（Automated Knowledge Appreciation）问题方法的一部分。

关键词

经验定理前向推理强相关逻辑 LLM 预训练数据自动定理发现自动知识鉴赏

引用

@article{arxiv.2412.12408,
  title  = {Automated Generation of Massive Reasonable Empirical Theorems by Forward Reasoning Based on Strong Relevant Logics -- A Solution to the Problem of LLM Pre-training Data Exhaustion},
  author = {Jingde Cheng},
  journal= {arXiv preprint arXiv:2412.12408},
  year   = {2024}
}

备注

11 pages, 7 figures

相关论文

查看更多相关论文 →