测试时训练在小样本学习中的惊人有效性

语言模型（LM）在其训练分布内的任务上表现出色，但在面对结构上新颖的任务时往往力不从心，即使提供了少量上下文任务示例。我们研究了测试时训练（TTT）——即在推理期间利用从输入数据导出的损失临时更新模型参数——作为提升语言模型推理和小样本学习能力的一种机制。在抽象与推理语料库（ARC）上，利用上下文示例执行 TTT 可使准确率比微调基线提高高达 $6\times$——使用 80 亿参数语言模型在公开验证集上达到 $53.0\%$，结合程序合成方法集成后达到 $61.9\%$，匹配平均人类水平。在 BIG-Bench Hard（BBH）上，对上下文示例进行 TTT 在 $10$-shot 设定下比标准小样本提示高出 $7.3$ 个百分点（从 $50.5\%$ 提升至 $57.8\%$）。我们的发现凸显了上下文学习在新颖任务上的局限性，并展示了测试时训练增强语言模型适应性的潜力。