STREAM：用于训练伦理 AI 模型的社会数据与知识集体智能平台
人工智能
2023-10-10 v1
摘要
本文提出用于训练伦理 AI 模型的社会数据与知识集体智能平台（STREAM），以应对将 AI 模型与人类道德价值观对齐的挑战，并提供伦理数据集与知识库，助力推动 AI 模型“从善如流”。通过创建一个全面且具有代表性的平台，准确反映包括人类与 AI 在内的不同群体的道德判断，我们希望有效刻画文化与群体差异，并捕捉道德判断随时间的动态演化，进而促进 AI 模型道德能力的建立、评估、嵌入、体现、集成与演化（6Es）。目前，STREAM 已提供全面的伦理情境集合，并积累了由志愿者及各种流行大语言模型（LLMs）标注的大量道德判断数据，共同刻画了人类与 AI 在一系列道德语境中的道德偏好与表现。本文将概述 STREAM 的当前结构与构建，探索其潜在应用，并讨论其未来前景。
引用
@article{arxiv.2310.05563,
title = {STREAM: Social data and knowledge collective intelligence platform for TRaining Ethical AI Models},
author = {Yuwei Wang and Enmeng Lu and Zizhe Ruan and Yao Liang and Yi Zeng},
journal= {arXiv preprint arXiv:2310.05563},
year = {2023}
}