中文

设计机器学习工具箱:概念、原则与模式

软件工程 2021-01-14 v1 机器学习

摘要

诸如 scikit-learn 或 Weka 之类的机器学习(ML)与 AI 工具箱是当代数据科学实践的基石——其核心作用得益于可用且强大的设计,使得复杂建模流程的指定、训练与验证变得轻松。然而,尽管它们取得了普遍成功,其构建中的关键设计原则却从未被充分分析。本文试图对 AI 建模工具箱设计中的关键模式给出概览,其灵感同等来源于软件工程领域、当代工具箱中的实现模式,以及我们自身开发 ML 工具箱的经验。特别地,我们为 AI/ML 领域开发了一个概念模型,其核心是一种称为科学类型(scientific types)的新类型系统。科学类型基于我们通常对其执行的操作集合(即其接口)及其统计性质,捕捉 ML 工作流中常见元素的科学意义。由我们的概念分析,我们导出了一组设计原则与模式。我们阐明该分析不仅能解释现有工具箱的设计,亦可指导新工具箱的开发。我们期望本文贡献能成为未来工具箱工程师的尖端参考、最佳实践的总结、一组可能对未来研究有用的 ML 设计模式集合,并潜在地成为迈向构建 AI 的更高层编程范式的第一步。

关键词

引用

@article{arxiv.2101.04938,
  title  = {Designing Machine Learning Toolboxes: Concepts, Principles and Patterns},
  author = {Franz J. Király and Markus Löning and Anthony Blaom and Ahmed Guecioueur and Raphael Sonabend},
  journal= {arXiv preprint arXiv:2101.04938},
  year   = {2021}
}