勿问 AI 能做什么，而问 AI 该做什么：迈向任务可委托性框架
人工智能
2019-11-05 v2 计算机与社会
人机交互
摘要
尽管人工智能（AI）有望应对社会挑战，但究竟应自动化哪些任务以及在何种程度上进行自动化的问题仍研究不足。我们从以人为中心的角度切入这一任务可委托性问题，通过发展一个关于人类将任务委托给 AI 的感知框架。我们考虑四个可促成委托决策的高层因素：动机、难度、风险和信任。为获得对不同任务中人类偏好的经验性理解，我们基于学术文献、媒体对 AI 的描绘以及日常生活构建了一个包含 100 项任务的数据集，并依据所提框架开展了一项调查。我们发现极少偏好完全由 AI 控制，而强烈偏好人机协同设计，其中人类扮演主导角色。在这四个因素中，信任与人类对最优人机委托的偏好最相关。该框架是刻画跨任务人类 AI 自动化偏好的第一步。我们希望本工作能激励未来理解此类个体态度的努力；我们的目标是告知公众与 AI 研究界，而非规定技术发展的任何方向。
引用
@article{arxiv.1902.03245,
title = {Ask Not What AI Can Do, But What AI Should Do: Towards a Framework of Task Delegability},
author = {Brian Lubars and Chenhao Tan},
journal= {arXiv preprint arXiv:1902.03245},
year = {2019}
}
备注
19 pages, 3 figures, 5 tables, NeurIPS 2019, dataset available at https://delegability.github.io