机器学习中基于玩具模型的理解
机器学习
2024-10-10 v1
摘要
在自然科学和社会科学中，常使用玩具模型——极其简单且高度理想化的表征——来理解复杂现象。一些用于理解不透明机器学习（ML）模型的简单替代模型，如规则列表和稀疏决策树，具有某种类似性质的科学玩具模型。它们允许非专家通过一种更简单的模型来全局理解不透明的 ML 模型工作原理，该模型突出显示输入空间中最相关特征及其对输出的影响。显著区别在于，玩具模型和大型模型在科学中的常见目标是世界上的某一现象，而替代模型的目标是另一个模型。这种根本性差异使得玩具替代模型（TSMs）成为理解理论的全新研究对象，尚难被当前分析所容纳。本文提供了关于如何借助此类简单模型来理解不透明 ML 模型全局工作原理的解释。
引用
@article{arxiv.2410.05675,
title = {Understanding with toy surrogate models in machine learning},
author = {Andrés Páez},
journal= {arXiv preprint arXiv:2410.05675},
year = {2024}
}