负责任的生成式 AI 综述：生成什么与不生成什么

近年来，生成式 AI（GenAI），如大语言模型和文本到图像模型，在各个领域受到了广泛关注。然而，确保这些模型负责任地生成内容对于其在现实世界中的适用性至关重要。这引发了一个有趣的问题：负责任的 GenAI 应该生成什么，不应该生成什么？为了回答这个问题，本文研究了文本和视觉生成模型的实际负责任要求，概述了五个关键考虑因素：生成真实内容、避免有毒内容、拒绝有害指令、不泄露与训练数据相关的内容以及确保生成内容可识别。具体而言，我们回顾了在满足这些要求方面的最新进展和挑战。此外，我们讨论并强调了负责任的 GenAI 在医疗保健、教育、金融和通用人工智能领域的重要性。通过对文本和视觉生成模型的统一视角，本文旨在提供对实际安全相关问题的见解，并进一步帮助社区构建负责任的 GenAI。