迈向价值对齐系统的步骤
计算机与社会
2020-11-11 v2
摘要
算法（含AI/ML）决策制品已成为且日益构成我们决策生态系统中既定的一部分。它们是管理复杂世界中有效决策所需信息洪流不可或缺的工具。当前文献充斥着个体制品如何违背社会规范与期望（如公平、隐私或安全规范违背）的实例。在此背景下，本讨论凸显了文献中关于评估配备AI的社会技术系统价值错位的被低估视角。价值错位研究强烈聚焦于个体技术制品的行为。本讨论主张采用更结构化的系统级方法来评估社会技术系统中的价值对齐。我们主要依托公平研究使论证更具体。并借此机会阐明采用系统视角如何提升我们更好解释与处理价值错位的能力。讨论以探索若要保证整个系统而非仅个体制品的价值对齐所须关注的优先问题作结。
引用
@article{arxiv.2002.05672,
title = {Steps Towards Value-Aligned Systems},
author = {Osonde A. Osoba and Benjamin Boudreaux and Douglas Yeung},
journal= {arXiv preprint arXiv:2002.05672},
year = {2020}
}
备注
Original version appeared in Proceedings of the 2020 AAAI ACM Conference on AI, Ethics, and Society (AIES '20), February 7-8, 2020, New York, NY, USA. 5 pages, 2 figures. Corrected some typos in this version