人机系统中的安全港悖论

在部署人工技能时，决策者常常假设在高复杂度任务中层叠人工监督可作为安全港，以缓解完全自动化的风险。本文正式挑战了这一广泛假设在经济上的有效性，论证这种假设下的真实经济效用高度取决于情境和设计因素。为调查这一差距，我们开发了一个基于蒙特卡罗模拟的探索性框架，用于基于多种情境下的技能政策进行政策分析，以量化呈现不同复杂度任务中技能政策的经济影响。我们的结果表明，在复杂情境中，人机策略可实现最高的经济效用，但仅当实现真正的增效时。相反，当未能实现这种协同作用时，人机方法可能低于机器专用或人类专用政策， 在成本未能通过性能提升得到充分补偿的压力下主动损害价值。这一发现指向了一个关键含义对于决策者：当情境复杂且关键时，仅仅分配人工和机器技能到任务上可能不够，而且远非银弹解决方案或低风险妥协。相反，这是一个提升竞争力的关键机遇，要求对实现增效做出强有力的组织承诺。我们还发现，提高机器技能长期成本效益虽有用，但并不能取代在惊喜为常态的情境下聚焦实现增效的根本需求，即使机器在处理不确定性方面变得比人类更有效。