学习在高风险场景中为人类提供建议
人机交互
2023-02-14 v3 人工智能
计算机与社会
摘要
在高风险人工智能辅助决策（AIaDM）场景中，专家决策者（DM）在做出最终决策前会接收并调和来自 AI 系统的建议。我们识别出这些场景的独特属性，这些属性对于开发能有效提升团队表现的 AIaDM 模型至关重要。首先，当 AI 建议与决策者自身判断相矛盾时，决策者在调和过程中会因投入决策资源（如时间与精力）而产生调和成本。其次，AIaDM 场景中的决策者表现出算法裁量行为（ADB），即针对任意给定决策任务不完美地接受或拒绝算法建议的特异性倾向。人类的调和成本与不完美裁量行为带来了开发如下 AI 系统的需求：（1）有选择地提供建议；（2）利用人类伙伴的 ADB 在最大化团队决策准确性的同时约束调和成本；（3）本身具有可解释性。我们将开发 AI 以在 AIaDM 场景中为人类提供建议的任务称为学习提供建议（learning to advise），并通过首先引入 AI 辅助团队（AIaT）学习框架来解决该任务。我们实例化该框架以开发 TeamRules（TR）：一种为 AIaDM 场景生成基于规则的模型与建议的算法。TR 经过优化，可利用人类伙伴的 ADB，针对给定环境有选择地建议人类，并权衡调和成本与团队准确性。在带有多种模拟人类准确性与裁量行为的合成与真实基准数据集上的评估表明，相较于可解释的基于规则的替代方法，TR 在各场景下稳健地提升了团队目标。
引用
@article{arxiv.2210.12849,
title = {Learning to Advise Humans in High-Stakes Settings},
author = {Nicholas Wolczynski and Maytal Saar-Tsechansky and Tong Wang},
journal= {arXiv preprint arXiv:2210.12849},
year = {2023}
}