ProsocialDialog：面向对话代理的亲社会主干
计算与语言
2022-10-26 v2
摘要
大多数现有对话系统无法对潜在不安全的用户话语做出恰当响应，要么忽略它们，要么被动附和。为解决此问题，我们引入了 ProsocialDialog，这是首个大规模多轮对话数据集，用于教导对话代理遵循社会规范对问题内容做出响应。ProsocialDialog 涵盖多样的不道德、有问题、偏见和有毒情境，包含基于常识社会规则（即经验法则，RoTs）鼓励亲社会行为的响应。通过人机协作框架创建，ProsocialDialog 包含 58K 对话、331K 话语、160K 独特 RoTs，以及附有自由形式理由的 497K 对话安全标签。利用该数据集，我们引入了对话安全检测模块 Canary（能够在给定对话上下文时生成 RoTs）以及具有社会意识的对话代理 Prost。实证结果表明，在域内和域外设置下，与其他最先进（SOTA）语言和对话模型相比，Prost 生成了更具社会接受度的对话。此外，Canary 有效引导对话代理和现成语言模型生成显著更具亲社会性的响应。我们的工作凸显了创建并引导对话 AI 具备社会责任感的前景与重要性。
引用
@article{arxiv.2205.12688,
title = {ProsocialDialog: A Prosocial Backbone for Conversational Agents},
author = {Hyunwoo Kim and Youngjae Yu and Liwei Jiang and Ximing Lu and Daniel Khashabi and Gunhee Kim and Yejin Choi and Maarten Sap},
journal= {arXiv preprint arXiv:2205.12688},
year = {2022}
}
备注
EMNLP 2022 camera ready; Dataset and model can be found at https://hyunw.kim/prosocial-dialog/