模型间知识传递 (M2KT)：面向跨模型理解传递的数据自由框架

现代人工智能系统依赖大规模数据集进行训练和在模型之间传递知识。知识蒸馏、迁移学习和数据集蒸馏使此类传递更高效，但仍根植于数据驱动：教师必须为学生生成示例、logits 或梯度。本文引入模型间知识传递 (Model-to-Model Knowledge Transmission, M2KT)，一种用于神经网络之间进行数据自由概念传递的新范式。M2KT 使模型能够交换封装结构化概念嵌入、抽象图、推理轨迹和源头元数据的知识包。不同于经典蒸馏方法，M2KT 主要在概念空间而非示例空间中运行，在传递过程中无需标记数据集或教师生成的输出。我们形式化了概念流形的概念，引入了教师潜在空间与学生潜在空间之间的映射，对齐，推导了综合损失函数，以强制几何、结构和推理一致性以及显式安全约束。我们进一步提出了教师端知识包生成和学生端知识包摄取与验证的算法流程。在大语言模型上的符号推理实验表明，M2KT 能实现约 85-90% 的教师性能，同时将数据使用量比标准知识蒸馏降低超过 98%。本工作为数据自由的 AI-to-AI 知识传递和自我改进模型生态系统奠定了理论与实践基础。