对 AI 的信任与可信机器学习技术之间的关系
计算机与社会
2019-12-04 v2 人工智能
机器学习
摘要
要构建用户和公众可合理信任的基于 AI 的系统，需要理解机器学习技术如何影响对这些服务的信任。为引导技术发展，本文提供了一种系统方法，将信任的社会科学概念与基于 AI 的服务和产品中所用技术联系起来。我们采用 ABI（能力、善意、正直）框架中讨论的信任概念，并使用最近提出的 ABI 到技术品质的映射。我们考虑四类机器学习技术，即用于公平性、可解释性、可审计性和安全性（FEAS）的技术，并讨论它们是否以及如何具备所需品质。信任在基于 AI 的系统的整个生命周期中都会受到影响，我们引入信任链（Chain of Trust）概念来讨论生命周期各阶段对信任的技术需求。FEAS 与已知框架有明显关联，因此我们将 FEAS 与近年来出现的多种国际原则性 AI 政策与技术框架相联系。
引用
@article{arxiv.1912.00782,
title = {The relationship between trust in AI and trustworthy machine learning technologies},
author = {Ehsan Toreini and Mhairi Aitken and Kovila Coopamootoo and Karen Elliott and Carlos Gonzalez Zelaya and Aad van Moorsel},
journal= {arXiv preprint arXiv:1912.00782},
year = {2019}
}
备注
This submission has been accepted in ACM FAT* 2020 Conference