可信机器学习技术: 社会技术背景下的综述
机器学习
2022-01-21 v3 人工智能
密码学与安全
计算机与社会
机器学习
摘要
对基于 AI 的服务与系统社会影响的关切,已促使世界各国政府及其他组织提出 AI 政策框架,以应对公平性、问责制、透明度及相关议题。为实现这些框架的目标,构建机器学习系统的数据与软件工程师需要了解各种相关支撑工具与技术。本文中,我们概述了支持构建可信机器学习系统的技术,即其属性足以令人们对其建立信任的系统。我们认为四类系统属性对实现政策目标至关重要,即公平性、可解释性、可审计性以及安全性与保障性(FEAS)。我们讨论如何在机器学习生命周期的所有阶段——从数据收集到运行时模型推断——考量这些属性。因此,本文针对机器学习系统生命周期中数据导向与模型导向的各阶段,就全部四项 FEAS 属性调查了主要技术。我们以识别开放研究问题作结,特别关注可信机器学习技术与其对个体及社会影响之间的关联。
引用
@article{arxiv.2007.08911,
title = {Technologies for Trustworthy Machine Learning: A Survey in a Socio-Technical Context},
author = {Ehsan Toreini and Mhairi Aitken and Kovila P. L. Coopamootoo and Karen Elliott and Vladimiro Gonzalez Zelaya and Paolo Missier and Magdalene Ng and Aad van Moorsel},
journal= {arXiv preprint arXiv:2007.08911},
year = {2022}
}
备注
We are updating some sections to include more recent advances