通过基于标签的群体解释解读炎症预测模型
机器学习
2024-10-21 v1 人工智能
摘要
机器学习通过使系统能够从数据中学习并做出智能决策，正在彻底改变营养科学。然而，这些模型的复杂性常常导致理解其决策过程面临挑战，因此需要开发可解释性技术以增强信任并提高模型透明度。一种尚未充分探索的解释类型是群体解释，它为具有相似特征的实例组提供解释。与关注个体解释或全局模型行为的传统方法不同，群体可解释性通过在中间粒度上提供独特见解来弥合差距。我们提出了一种新颖的框架，基于局部特征重要性分数识别数据集中的群体，旨在通过标签生成简洁的聚类描述。我们在一个基于食物的炎症预测模型上评估了我们的框架，并证明了该框架能够生成与领域知识相符的可靠解释。
引用
@article{arxiv.2410.14082,
title = {Interpreting Inflammation Prediction Model via Tag-based Cohort Explanation},
author = {Fanyu Meng and Jules Larke and Xin Liu and Zhaodan Kong and Xin Chen and Danielle Lemay and Ilias Tagkopoulos},
journal= {arXiv preprint arXiv:2410.14082},
year = {2024}
}