通过示范教导自回归语言模型执行复杂任务
计算与语言
2021-12-06 v3 人工智能
摘要
本文证明，通过在适当结构化的逐步示范上微调自回归语言模型（GPT-Neo），可以教会它执行一项此前对 Transformer 而言困难的数学任务——长除法取余运算——且仅需相对较少的示例。具体而言，我们微调 GPT-Neo 以解决 DeepMind 数学数据集中的 numbers__div_remainder 任务；Saxton 等人（arXiv:1904.01557）报告称使用 200 万训练样本在该任务上准确率低于 40%。我们展示，在 200 个适当结构化的长除法问题求解并报告余数的示范上进行微调后，最小的可用 GPT-Neo 模型达到了超过 80% 的准确率。这是通过构建适当的微调数据集实现的，未对学习算法做任何改动。这些结果表明，在小型精心制作的示范集上微调自回归语言模型，可能是一种有用的范式，使未经机器学习训练的个人也能引导此类模型执行某些类型的复杂多步任务。
引用
@article{arxiv.2109.02102,
title = {Teaching Autoregressive Language Models Complex Tasks By Demonstration},
author = {Gabriel Recchia},
journal= {arXiv preprint arXiv:2109.02102},
year = {2021}
}
备注
Corrected typo in Figure 2. Updated two citations to adhere to the format preferred by the cited authors