可信 AI：一种计算视角
人工智能
2021-08-20 v3
摘要
过去几十年中，人工智能（AI）技术经历了飞速发展，改变了每个人的日常生活并深刻改变了人类社会的进程。开发 AI 的初衷是通过减少人力劳动、为生活带来日常便利以及促进社会公益来造福人类。然而，近期的研究与 AI 应用表明，AI 可能对人类造成无意的伤害，例如在安全关键场景中做出不可靠决策，或通过无意中歧视某一群体而损害公平性。因此，可信 AI 近期引起了巨大关注，它需要审慎考量以避免 AI 可能对人类带来的不利影响，从而使人类能够充分信任并与 AI 技术和谐共处。近年来见证了海量关于可信 AI 的研究。在本综述中，我们从计算视角出发对可信 AI 进行全面综述，以帮助读者理解实现可信 AI 的最新技术的综述。可信 AI 是一个庞大而复杂的领域，涉及多个维度。本工作中，我们聚焦于实现可信 AI 的六个最关键维度：(i) 安全性与鲁棒性，(ii) 无歧视与公平性，(iii) 可解释性，(iv) 隐私，(v) 问责性与可审计性，以及 (vi) 环境福祉。对于每个维度，我们依据一种分类体系回顾近期相关技术，并总结其在现实系统中的的应用。我们还讨论了不同维度之间一致与冲突的相互作用，并探讨了可信 AI 未来值得研究的潜在方面。
引用
@article{arxiv.2107.06641,
title = {Trustworthy AI: A Computational Perspective},
author = {Haochen Liu and Yiqi Wang and Wenqi Fan and Xiaorui Liu and Yaxin Li and Shaili Jain and Yunhao Liu and Anil K. Jain and Jiliang Tang},
journal= {arXiv preprint arXiv:2107.06641},
year = {2021}
}
备注
55 pages