最优决策并非最佳建议:面向依从感知的推荐
人机交互
2025-01-08 v4 人工智能
摘要
许多高风险决策遵循人在回路的专家结构,即人类操作员接收算法的推荐但为最终决策者。因此,算法的推荐可能与实际实施的决策不同。然而,大多数算法推荐通过求解一个假设推荐将被完美执行的优化问题获得。我们提出一种依从感知优化框架,以捕捉推荐策略与实施策略之间的二分性,并分析部分依从对最优推荐的影响。我们表明,忽视部分依从现象(正如当前大多数推荐引擎所做的那样)会导致相对于当前人类基线性能以及推荐算法所预期的性能出现任意严重的性能恶化。我们的框架还提供了有用的工具来分析结构并计算天然免疫于此类人类偏差的最优推荐策略,并保证优于基线策略。
引用
@article{arxiv.2209.01874,
title = {The Best Decisions Are Not the Best Advice: Making Adherence-Aware Recommendations},
author = {Julien Grand-Clément and Jean Pauphilet},
journal= {arXiv preprint arXiv:2209.01874},
year = {2025}
}