用于实用价值对齐的 Goofus & Gallant 故事语料库

价值观或原则是人类社会的关键要素，促使人们按照公认的社会规则标准行事和运作，以维持社会秩序。随着 AI 系统在人类社会中变得无处不在，人们高度担忧它们可能会违反这些规范或价值观并可能造成伤害。因此，为了防止故意或无意的伤害，期望 AI 系统采取与这些原则对齐的行动。训练系统以表现出这种行为是困难的，通常需要专门的数据集。本工作提出了一个多模态数据集，通过自然语言和艺术图像描述了现实生活中的规范和非规范行为。这个训练集包含精心挑选的图像集，旨在教导幼儿社会原则。鉴于这一事实，我们认为这是用于训练社会规范智能体的理想数据集。