何时使用AI才是理性选择？关于AI部署决策中反事实的重要性

部署AI能力的决策往往是由反事实驱动的——即使用AI后的决策与若不使用AI时所作出的决策的比较。由于使用AI而导致的反事实失误（即由于使用AI而产生的差错决策）可能对AI部署决策者造成不成比例的负面影响。由于AI使用而带来的反事实成功（即由于AI使用而产生的好决策）可能仅提供超出更好决策本身的有限收益。本文探讨了如何将反事实结果纳入使用决策的期望效用评估中。当反事实被明确包含后，会出现若干性质。首先，在许多情境中，AI使用对预期受益者而言是正向的，但对利益相关者和部署决策者而言则是强烈负向的。其次，高水平的互补性——即不同AI和用户评估被合并产生积极效果——往往会对利益相关者造成显著的负面效应。第三，用户与AI能力交互方式的看似微小变化会对利益相关者效用产生实质性影响。第四，认知偏差，如专家过度自信和事后偏差，会加剧对昂贵反事实失误发生频率的感知。本文所提出的期望效用评估方法旨在帮助AI开发者和部署决策者更好地理解反事实的细微但重大影响，从而更好地确保有益的AI能力被正确使用。