MinT:通过多视角微调提升数学推理的泛化能力
人工智能
2023-07-18 v1 计算与语言
摘要
数学领域的推理对于相对较小的语言模型(LM)而言仍是一项重大挑战。许多当前方法专注于使 LM 专精于数学推理,并严重依赖来自强大但低效的大语言模型(LLM)的知识蒸馏。在这项工作中,我们探索了一个避免过度依赖 LLM 教师的新方向,引入了多视角微调方法,高效利用具有多样标注风格的现有数学问题数据集。我们的方法独特地将各种标注格式视为不同“视角”,并在训练模型时加以利用。通过在输入问题后附加不同指令,模型可以灵活地学习以多种格式生成解答。实验结果表明,我们的策略使 LLaMA-7B 模型优于先前利用知识蒸馏的方法以及精心建立的基线。此外,所提方法赋予模型跨各视角和数据集的良好泛化能力,以及从不准确或不完整的噪声数据中学习的能力。我们希望我们的多视角训练范式能启发未来其他机器推理领域的研究。
引用
@article{arxiv.2307.07951,
title = {MinT: Boosting Generalization in Mathematical Reasoning via Multi-View Fine-Tuning},
author = {Zhenwen Liang and Dian Yu and Xiaoman Pan and Wenlin Yao and Qingkai Zeng and Xiangliang Zhang and Dong Yu},
journal= {arXiv preprint arXiv:2307.07951},
year = {2023}
}