多智能体系统中的人类价值观
人工智能
2023-05-05 v1 计算机与社会
多智能体系统
摘要
当今伦理AI面临的主要挑战之一,是开发其推理与行为可被证明与人类价值观对齐的计算系统。然而,人类价值观以模糊、矛盾且不断变化而著称。为弥合这一鸿沟,使我们更接近能够形式化推理将价值观植入AI的境地,本文提出一种扎根于社会科学的人类价值观形式化表示。我们利用该形式化表示阐明了在多智能体系统(MAS)中实现价值对齐行为的关键挑战,以及应对这些挑战的研究路线图。
引用
@article{arxiv.2305.02739,
title = {Human Values in Multiagent Systems},
author = {Nardine Osman and Mark d'Inverno},
journal= {arXiv preprint arXiv:2305.02739},
year = {2023}
}