设计可信赖的 AI：指导开发的人机协作框架
人工智能
2019-10-09 v1 人机交互
摘要
人工智能（AI）在赋予我们知识并增强效能方面前景广阔。我们能够且必须确保人类的安全与掌控，尤其对于影响广泛人群的政府与公共部门应用。AI 开发团队如何驾驭 AI 系统的力量并将其设计为对人类有价值？构建可信赖的人工智能系统需要多元化团队，且这些团队需围绕一套共享的伦理共识凝聚起来。AI 领域关于伦理与信任的讨论众多，但可供人们在创建这些系统时用作指导的框架寥寥无几。本文所述的人机协作（HMT）伦理 AI 体验设计框架，若与一套技术伦理结合使用，将引导 AI 开发团队创造出可问责、去风险、尊重、安全、诚实且可用的 AI 系统。为支持团队工作，将引入理解人们需求与关切的活动以及支持团队工作的主题。例如，可用性测试有助于判断受众是否理解 AI 系统如何运作并符合 HMT 框架。HMT 框架基于对人机交互与软件开发中现有伦理准则和最佳实践的审视。当人类用户能够信任 AI 系统按预期、安全、可靠且可理解地行事时，人机团队最为强大。使用 HMT 框架设计可信赖的 AI 系统，将为团队提前识别潜在问题并打造优良的人类体验提供支持。
引用
@article{arxiv.1910.03515,
title = {Designing Trustworthy AI: A Human-Machine Teaming Framework to Guide Development},
author = {Carol J. Smith},
journal= {arXiv preprint arXiv:1910.03515},
year = {2019}
}
备注
Presented at AAAI FSS-19: Artificial Intelligence in Government and Public Sector, Arlington, Virginia, USA