SQuARe：通过人机协作构建的大规模敏感问题与可接受回复数据集
计算与语言
2023-05-30 v1
摘要
大型语言模型带来的潜在社会危害（如生成冒犯性内容、强化偏见）正急剧上升。现有工作侧重于应对与恶意用户交互时的此类问题，例如那些明确发表仇恨言论或诱导有害回复的用户。然而，即便用户善意，关于敏感问题的讨论也可能变得有毒。为使模型在此类场景中更安全，我们提出敏感问题与可接受回复（SQuARe）数据集，这是一个大规模的韩语数据集，包含 49k 个敏感问题与 42k 个可接受、46k 个不可接受回复。该数据集基于真实新闻标题，以人在回路的方式借助 HyperCLOVA 构建。实验表明，HyperCLOVA 与 GPT-3 的可接受回复生成均有显著提升，证明了该数据集的有效性。
引用
@article{arxiv.2305.17696,
title = {SQuARe: A Large-Scale Dataset of Sensitive Questions and Acceptable Responses Created Through Human-Machine Collaboration},
author = {Hwaran Lee and Seokhee Hong and Joonsuk Park and Takyoung Kim and Meeyoung Cha and Yejin Choi and Byoung Pil Kim and Gunhee Kim and Eun-Ju Lee and Yong Lim and Alice Oh and Sangchul Park and Jung-Woo Ha},
journal= {arXiv preprint arXiv:2305.17696},
year = {2023}
}
备注
19 pages, 10 figures, ACL 2023