在不牺牲语言熟练度的前提下学习非语言技能
计算与语言
2023-05-16 v1 人工智能
机器学习
摘要
近年来，Math-NLP 领域显著增长，其动机在于将 LLM 性能拓展至非语言概念（数字及随后的算术推理）的学习。然而，非语言技能注入通常给 LLM 带来代价：它导致对核心语言技能的灾难性遗忘，这一后果在文献中常被忽视。由于 Math-NLP 已能构建出可近似小学生数学技能或计算器级算术推理技能的 LLM，若这些模型同时丧失语言能力，其实用性将大打折扣。本工作中，我们深入考察了关乎 LLM 的灾难性遗忘现象，并基于信息论干预与技能特定损失，提出了一种用于 LLM 非语言技能注入的新框架，可实现严格算术推理的学习。我们的模型在注入的非语言技能与语言知识保持上均优于当前最优（SOTA），且仅用了 1/4 的非语言训练数据与零额外合成语言训练数据。
引用
@article{arxiv.2305.08246,
title = {Learning Non-linguistic Skills without Sacrificing Linguistic Proficiency},
author = {Mandar Sharma and Nikhil Muralidhar and Naren Ramakrishnan},
journal= {arXiv preprint arXiv:2305.08246},
year = {2023}
}
备注
Accepted to ACL 2023's main conference