在精确预测与糟糕决策之间:AI/ML 的鸿沟

Gianluca Bontempi

在精确预测与糟糕决策之间:AI/ML 的鸿沟

机器学习 2023-10-04 v1

作者: Gianluca Bontempi

摘要

智能体依赖 AI/ML 功能来预测可能行动的后果并优化策略。然而,研究界在解决预测精度方面的努力如此集中(且成功),以至于造成了一种错觉:学习器的预测(或分类)越准确,最终决策就越好。现在,这一假设仅在(人类或人工)决策者完全知晓各可能行动的效用之时才成立。本文主张,AI/ML 界迄今采取了过于失衡的路径,将过多注意力置于状态(或目标)概率的估计上,而损害了效用准确可靠的估计。具体而言,关于错误的效用评估对决策策略期望效用的影响,现有证据甚少。这种状况正造成 AI 解决方案预期与实际影响之间的巨大鸿沟,近期批评与监管立法努力均印证了这一点。本文旨在通过量化期望效用对效用不确定性的敏感度,并将其与概率估计所导致的敏感度相比较,来研究这一鸿沟。理论与仿真结果表明,不准确的效用评估可能和(有时甚于)糟糕的概率估计一样有害。对学界的最终建议是,将重心从纯粹的精度驱动(或痴迷)方法转向更具效用意识的方法论。

关键词

AI/ML 预测精度决策制定效用估计期望效用概率估计

引用

@article{arxiv.2310.02029,
  title  = {Between accurate prediction and poor decision making: the AI/ML gap},
  author = {Gianluca Bontempi},
  journal= {arXiv preprint arXiv:2310.02029},
  year   = {2023}
}

备注

Position paper presented in the BENELEARN 2022 conference

在精确预测与糟糕决策之间:AI/ML 的鸿沟

摘要

关键词

引用

备注

相关论文