道德故事：关于规范、意图、行动及其后果的情境化推理
计算与语言
2021-01-01 v1 人工智能
摘要
在社交环境中，人类行为很大程度上受不成文的行为准则支配。对于人工系统而言，要充分融入社交环境，遵守此类规范是一项核心前提。我们研究当代NLG（自然语言生成）模型能否作为部署在社交环境中的系统的行为先验，通过生成在道德约束下实现预定义目标的行动假设。此外，我们考察模型能否预测（不）道德行动的潜在后果，或通过生成相关规范来解释为何某些行动更可取。为此，我们引入了“道德故事”，一个众包的结构化分支叙事数据集，用于研究基于情境、面向目标的社会推理。最后，我们提出了一种解码策略，能有效结合多个专家模型，与强基线（例如通过溯因推理）相比，显著提升所生成行动、后果和规范的质量。
引用
@article{arxiv.2012.15738,
title = {Moral Stories: Situated Reasoning about Norms, Intents, Actions, and their Consequences},
author = {Denis Emelin and Ronan Le Bras and Jena D. Hwang and Maxwell Forbes and Yejin Choi},
journal= {arXiv preprint arXiv:2012.15738},
year = {2021}
}
备注
For the 'Moral Stories' dataset, see https://github.com/demelin/moral_stories