评估与改进人工智能中的价值判断：基于场景的大语言模型对社会习俗刻画研究

生成式人工智能技术的采用正在迅速扩展。采用语言与多模态模型的服务不断演进，为用户提供日益精准的响应。因此，人类对这类技术的依赖预计将快速增长。基于人们会受到人工智能输出影响的这一前提，我们探索了有助于人工智能输出产生更好结果的方法。起初，我们评估了当代人工智能服务在竞争性地满足用户需求方面的表现，随后考察了由大语言模型（LLMs）所折射出的社会刻画。我们进行了一项查询实验，就各国的社会习俗进行查询并引导其给出单字响应。我们将大语言模型的价值判断与公开数据进行了比较，并提出了一种可用于未来机器价值判断的价值冲突场景决策模型。本文倡导一种将人工智能作为探究其他遥远世界之工具的实用路径。本研究的重要意义在于隐性拒斥人工智能进行价值判断的观念，转而主张一种将判断能力交还个体的、更具批判性的环境视角。我们期望本研究能使任何人，无论其能力如何，都能有效获得基于安全且准确的价值判断的输出。