全息知识流形：一种用于大语言模型无灾难性遗忘持续学习的新颖流程
机器学习
2025-11-24 v2
摘要
我们引入了全息知识流形（HKM），这是一个四阶段流程，能够在 AI 知识表示中实现零灾难性遗忘，同时保持最小的内存增长和高效率。HKM 利用分形量化、概率纠缠和动态衍射切片技术，将知识基底压缩 3 倍，节省 67% 的存储空间，实现 100% 的全息集成，并支持超过 1020 次更新，每次增量增长 1%。在组合的 WikiText 和 FB15k 数据集（扩展到 2997 个节点）上的实验中，我们展示了业界领先的性能：0% 的遗忘率（相对于 GEM 基线有无限提升）、3 倍压缩率，以及在消费级 GPU 硬件上减少 53% 的训练时间。假设性成本分析预测，在 PB 级规模下，5 年内可节省 9240 万美元，同时降低 21.2% 的能耗和 33% 的碳足迹。这项工作为公共大语言模型（LLM）假设了一种范式转变，使其能够实现无需重新训练的“永恒”适应。未来向多模态融合和量子硬件的扩展可以进一步普及可扩展的 AI，可能将 Llama-3 或 Grok-4 等模型的微调成本降低 60-80%。代码、数据集和完整结果已公开，以保证可复现性。
引用
@article{arxiv.2509.10518,
title = {Holographic Knowledge Manifolds: A Novel Pipeline for Continual Learning Without Catastrophic Forgetting in Large Language Models},
author = {Justin Arndt},
journal= {arXiv preprint arXiv:2509.10518},
year = {2025}
}
备注
This paper includes significant errors discovered post publication by the author