作为长期AI安全与监管基础的消极人权
计算机与社会
2023-04-21 v2 人工智能
摘要
若自主AI系统要在新颖情境中可靠安全,它们将需要纳入通用原则以引导其识别并避免有害行为。此类原则可能需要一套具有约束力的监管体系支撑,而这要求底层原则被广泛接受。它们还应足够具体以便技术实现。本文从法律中汲取灵感,阐释消极人权如何能够充当此类原则的角色,并同时作为国际监管体系与构建未来AI系统技术安全约束的基础。
引用
@article{arxiv.2208.14788,
title = {Negative Human Rights as a Basis for Long-term AI Safety and Regulation},
author = {Ondrej Bajgar and Jan Horenovsky},
journal= {arXiv preprint arXiv:2208.14788},
year = {2023}
}