LLM 理解玻璃盒模型、发现意外并建议修复
机器学习
2023-08-08 v2 人工智能
机器学习
摘要
我们展示大语言模型（LLMs）在处理可解释模型方面表现异常出色，这类模型将复杂结果分解为以图表示的单变量分量。通过采用分层推理方法，LLM 可在无需整个模型放入上下文的情况下提供全面的模型级摘要。该方法使 LLM 能运用其广博的背景知识自动化数据科学中的常见任务，例如检测与先验知识矛盾的异常、描述异常的潜在原因，以及建议可消除异常的修复方案。我们在医疗健康的多个示例中演示了 LLM 这些新能力的效用，尤其侧重于广义加性模型（GAMs）。最后，我们提出 包作为一个开源的 LLM-GAM 接口。
引用
@article{arxiv.2308.01157,
title = {LLMs Understand Glass-Box Models, Discover Surprises, and Suggest Repairs},
author = {Benjamin J. Lengerich and Sebastian Bordt and Harsha Nori and Mark E. Nunnally and Yin Aphinyanaphongs and Manolis Kellis and Rich Caruana},
journal= {arXiv preprint arXiv:2308.01157},
year = {2023}
}