通过反事实可解释建模提取专家目标
机器学习
2022-06-15 v3
摘要
尽管强化学习 (RL) 在许多领域取得了巨大成功，但当奖励难以指定且不允许探索时，将 RL 应用于医疗等真实场景具有挑战性。本工作中，我们聚焦于恢复临床医生在治疗患者时的奖励。我们引入反事实推理，基于临床医生治疗的潜在未来结果来解释其治疗行为。我们使用广义加性模型 (GAMs)——一类准确且可解释的模型——来恢复奖励。在仿真和真实世界医院数据集中，我们表明我们的模型优于基线。最后，我们的模型解释在治疗患者时与若干临床指南相符，而我们发现常用的线性模型常与之矛盾。
引用
@article{arxiv.2110.15165,
title = {Extracting Expert's Goals by What-if Interpretable Modeling},
author = {Chun-Hao Chang and George Alexandru Adam and Rich Caruana and Anna Goldenberg},
journal= {arXiv preprint arXiv:2110.15165},
year = {2022}
}