人工智能中人类价值代理指标间的张力
机器学习
2022-12-16 v1 人工智能
计算机与社会
人机交互
摘要
出于缓解技术潜在有害影响的动机，AI 界已制定并接受了某些问责支柱的数学定义：例如隐私、公平与模型透明性。然而，我们认为这从根本上具有误导性，因为这些定义是其所希望代理的人类价值的不完美、孤立建构，却给人以这些价值已充分嵌入我们技术的假象。在流行化方法下，当从业者试图孤立或同时实现公平、隐私与透明性各支柱时，会出现张力。在本立场论文中，我们推动重定向。我们认为 AI 界需要考虑选择这些支柱的特定表述的所有后果——不仅是技术不兼容性，还有在部署语境中的效应。我们指向社会技术研究中后者的框架，但推动将其付诸实践的更广泛努力。
引用
@article{arxiv.2212.07508,
title = {Tensions Between the Proxies of Human Values in AI},
author = {Teresa Datta and Daniel Nissani and Max Cembalest and Akash Khanna and Haley Massa and John P. Dickerson},
journal= {arXiv preprint arXiv:2212.07508},
year = {2022}
}
备注
Contributed Talk, NeurIPS 2022 Workshop on Algorithmic Fairness through the Lens of Causality and Privacy; To be published in 2023 IEEE Conference on Secure and Trustworthy Machine Learning (SaTML)