让我们做个思想实验：利用反事实改进道德推理
计算与语言
2023-06-27 v1 人工智能
摘要
尽管语言模型在许多其他任务上表现优异，其在道德推理方面仍存在困难。特别地，MMLU（多任务语言理解）中的道德情境（Moral Scenarios）任务是包括 GPT-3 在内的许多语言模型表现最差的题目之一。本文提出一种新的提示框架——思想实验（Thought Experiments），利用反事实教导语言模型进行更好的道德推理。实验结果表明，我们的框架能从模型中引出反事实问题及答案，进而使道德情境任务的准确率相较其他零样本基线提升 9–16%。有趣的是，与数学推理任务不同，零样本思维链（Chain-of-Thought, CoT）推理无法开箱即用，甚至使准确率相较直接零样本下降约 4%。我们进一步观察到，以 5 个少样本示例的形式提供最少人工监督，该任务准确率可提升至高达 80%。
引用
@article{arxiv.2306.14308,
title = {Let's Do a Thought Experiment: Using Counterfactuals to Improve Moral Reasoning},
author = {Xiao Ma and Swaroop Mishra and Ahmad Beirami and Alex Beutel and Jilin Chen},
journal= {arXiv preprint arXiv:2306.14308},
year = {2023}
}
备注
8 pages, ICML Neural Conversational AI workshop, thought experiments, moral reasoning