面向以人为中心的自主决策系统的可信赖与负责任的人工智能
人工智能
2024-09-04 v2
摘要
人工智能 (AI) 为革命性的决策过程提供了可能，若能加以恰当地运用，可推动 healthcare 到 economics 等多个领域的发展。然而，其黑箱本质带来了与偏见和透明度相关的重大伦理挑战。AI 应用深受偏见影响，呈现出不一致且不可靠的发现结果，导致重大成本和后果，加剧不平等和资源获取不平等。因此，发展安全、可靠、伦理且可信赖的 AI 系统至关重要。我们团队作为 University of Calgary Transdisciplinary Scholarship Initiative 内 Trustworthy and Responsible AI 项目的一部分，进行关于可信赖与负责任 AI 的研究，包括公平性、偏见缓解、可重复性、泛化性、可解释性和真实性。在本文中，我们审阅并讨论了 AI 偏见的细微之处、定义、检测与缓解方法以及评估偏见的指标。我们还讨论了关于 AI 在广泛的人类中心决策领域的可信赖性和普适应用面临的开放挑战，以及培育 Responsible and Trustworthy AI 模型的指南。
引用
@article{arxiv.2408.15550,
title = {Trustworthy and Responsible AI for Human-Centric Autonomous Decision-Making Systems},
author = {Farzaneh Dehghani and Mahsa Dibaji and Fahim Anzum and Lily Dey and Alican Basdemir and Sayeh Bayat and Jean-Christophe Boucher and Steve Drew and Sarah Elaine Eaton and Richard Frayne and Gouri Ginde and Ashley Harris and Yani Ioannou and Catherine Lebel and John Lysack and Leslie Salgado Arzuaga and Emma Stanley and Roberto Souza and Ronnie de Souza Santos and Lana Wells and Tyler Williamson and Matthias Wilms and Zaman Wahid and Mark Ungrin and Marina Gavrilova and Mariana Bento},
journal= {arXiv preprint arXiv:2408.15550},
year = {2024}
}
备注
44 pages, 2 figures