CoT2Align：基于最优传输对齐的跨思维链蒸馏，面向具有不同分词器的语言模型
计算与语言
2025-03-04 v3
摘要
大型语言模型（LLM）在各种 NLP 任务中取得了最先进的性能，但由于高昂的计算成本和内存限制，面临着部署挑战。知识蒸馏（KD）是一种很有前景的解决方案，可将知识从大型教师模型转移到较小的学生模型。然而，现有的 KD 方法通常假设共享词表和分词器，限制了其灵活性。尽管通用 Logit 蒸馏（ULD）和双空间知识蒸馏（DSKD）等方法解决了词表不匹配问题，但它们忽略了关键的 \textbf{推理感知蒸馏} 方面。为了弥补这一差距，我们提出了 CoT2Align，这是一个集成了思维链（CoT）增强的通用 KD 框架，并引入了跨 CoT 对齐以增强推理迁移。此外，我们将最优传输从词元级对齐扩展到序列级和层级对齐方法，该方法能够适应不同的序列长度，同时保持上下文的完整性。综合实验表明，CoT2Align 在不同的词表设置下优于现有的 KD 方法，提高了推理能力和特定领域任务的鲁棒性。
引用
@article{arxiv.2502.16806,
title = {CoT2Align: Cross-Chain of Thought Distillation via Optimal Transport Alignment for Language Models with Different Tokenizers},
author = {Anh Duc Le and Tu Vu and Nam Le Hai and Nguyen Thi Ngoc Diep and Linh Ngo Van and Trung Le and Thien Huu Nguyen},
journal= {arXiv preprint arXiv:2502.16806},
year = {2025}
}