临床情境中 Shapley 值的挑战与机遇
统计方法学
2023-06-27 v1
摘要
随着基于机器学习的解决方案在常规临床实践中的采用，对可靠可解释性工具的需求已变得迫切。Shapley 值提供局部解释。该方法近年广受欢迎。在此，我们揭示关于“忠于数据”或“忠于模型”权衡的当前误解，并论证其在临床情境中的重要性。我们表明，Shapley 值的解释强烈依赖于为建模特征移除所选择的参考分布，而这一点常被误解。我们进一步主张，对于医学应用，参考分布应贴合 underlying 临床问题。最后，我们就特定医学用例的正确参考分布给出建议。
引用
@article{arxiv.2306.14698,
title = {Challenges and Opportunities of Shapley values in a Clinical Context},
author = {Lucile Ter-Minassian and Sahra Ghalebikesabi and Karla Diaz-Ordaz and Chris Holmes},
journal= {arXiv preprint arXiv:2306.14698},
year = {2023}
}