数据与AI治理中以数据为中心的安全与伦理措施

数据集在赋予人工智能（AI）基础模型先进能力方面发挥着关键作用，这些模型可适配于各种下游任务。这些下游应用可能引入有益和有害的双重能力——导致具有多种技术和监管方法来监控和管理风险的 AI 基础模型的双重用途。然而，尽管数据集至关重要，负责任的数据集设计以及确保以数据为中心的安全和伦理实践却受到较少关注。在本研究中，我们提出了一种负责任的数据集设计框架，涵盖 AI 和数据集生命周期的各个阶段，以增强安全措施并降低因低质量、不安全和不道德的数据内容导致的 AI 滥用风险。该框架是领域无关的，适用于各种应用，并可促进负责任的数据集创建、使用和共享实践，从而促进红队测试、最小化风险并增强对 AI 模型的信任。