零样本视觉常识不道德预测

人工智能目前正为各种现实应用提供动力。这些应用展现出了良好的性能，但也引发了复杂的伦理问题，即如何嵌入伦理以使 AI 应用表现合乎道德。实现道德 AI 系统的一种途径是模仿人类的亲社会行为，并在系统中鼓励某种形式的良好行为。然而，学习此类规范伦理（尤其是从图像中学习）由于缺乏数据和标注的复杂性而极具挑战性。在此，我们提出了一种以零样本方式预测视觉常识不道德性的模型。我们通过基于 CLIP 的图文联合嵌入，使用 ETHICS 数据集（文本与道德标注对）训练我们的模型。在测试阶段，预测未见图像的不道德性。我们使用现有的道德/不道德图像数据集评估我们的模型，并展示了与人类直觉一致的公平预测性能。此外，我们创建了一个包含更普遍和广泛不道德视觉内容的视觉常识不道德性基准。代码和数据集可在 https://github.com/ku-vai/Zero-shot-Visual-Commonsense-Immorality-Prediction 获取。请注意，本文可能包含本质上具有冒犯性的图像和描述。