人机交互在选择性预测中的作用
人工智能
2022-05-18 v2 人机交互
摘要
近期工作展示了选择性预测系统的潜在益处，该系统可学习在AI预测不可靠时 defer 给人类，特别是用于提升AI系统在医疗或保护等高风险应用中的可靠性。然而，多数先前工作假设人类作为人机团队一部分解决预测任务时，其行为与单独完成时保持不变。我们通过实验量化选择性预测背景下的人机交互，表明事实并非如此。具体而言，我们研究了向人类传达关于AI系统 defer 决策的不同类型信息所产生的影响。利用真实保护数据和一种相较人类或AI单独工作能提升期望准确度的选择性预测系统，我们表明这种消息传递对人类判断准确度有显著影响。我们的结果研究了消息传递策略的两个组成部分：1）是否告知人类AI系统的预测；2）是否告知他们选择性预测系统 defer 的决策。通过操控这些消息组件，我们表明可通过告知人类 defer 决策但不透露AI预测来显著提升人类表现。因此我们表明，在设计选择性预测系统时，考虑如何将 defer 决策传达给人类至关重要，并且人机团队的综合准确度必须使用人在回路框架仔细评估。
引用
@article{arxiv.2112.06751,
title = {Role of Human-AI Interaction in Selective Prediction},
author = {Elizabeth Bondi and Raphael Koster and Hannah Sheahan and Martin Chadwick and Yoram Bachrach and Taylan Cemgil and Ulrich Paquet and Krishnamurthy Dvijotham},
journal= {arXiv preprint arXiv:2112.06751},
year = {2022}
}
备注
Published in AAAI 2022; added link to data, small formatting corrections for camera-ready, including small changes to Fig 6-7 that do not change conclusions