论结果预测的可操作性
机器学习
2023-09-11 v1 人工智能
计算机与社会
摘要
预测未来结果是机器学习在社会影响领域的普遍应用。例子从教育领域预测学生成功到医疗领域预测疾病风险不一而足。从业者认识到,最终目标不仅仅是预测,而是有效地行动。越来越多的证据表明,依赖结果预测进行下游干预可能无法取得预期结果。在大多数领域中,每个个体都存在多种可能的干预措施,这使得采取有效行动的挑战更加严峻。即使将个体潜在状态与结果连接的因果机制已被充分理解,在任何给定实例(特定学生或患者)中,从业者仍需从对潜在状态的预算化测量中推断,诸多可能干预中哪一种对该个体最为有效。鉴于此,我们提出:准确的结果预测器何时有助于识别最合适的干预?通过一个包含行动、潜在状态和测量的简单模型,我们证明纯粹的结果预测很少能产生最有效的行动策略,即使与其他测量结合也是如此。我们发现,除了存在单一决定性行动可改善结果的情况外,结果预测从未最大化“行动价值”,即采取行动的效用。对可操作潜在状态(特定行动可带来期望结果)进行测量,相比结果预测可显著提升行动价值,且提升程度取决于行动成本和结果模型。该分析强调了在干预场景中超越通用结果预测、纳入合理行动与潜在状态知识的必要性。
引用
@article{arxiv.2309.04470,
title = {On the Actionability of Outcome Prediction},
author = {Lydia T. Liu and Solon Barocas and Jon Kleinberg and Karen Levy},
journal= {arXiv preprint arXiv:2309.04470},
year = {2023}
}
备注
14 pages, 3 figures