进化自动机器学习与结构敏感性分析在复合管道中的集成
机器学习
2023-12-25 v1 神经与进化计算
摘要
自动机器学习 (AutoML) 系统为给定的机器学习问题提供端到端解决方案,创建固定或灵活的管道。固定管道是与任务无关的构造:无论数据如何,其总体组成保持不变。相比之下,灵活管道的结构根据输入而变化,使其能够精细地适应单个任务。然而,灵活管道可能在结构上过于复杂且可解释性差。我们提出了 EVOSA 方法,该方法通过引入敏感性分析来补偿灵活管道的负面点,从而提高了灵活解决方案的鲁棒性和可解释性。EVOSA 定量估计管道图中边或节点的正面和负面影响,并将此信息反馈给进化 AutoML 优化器。EVOSA 的正确性和效率在表格、多模态和计算机视觉任务中得到了验证,表明所提出的方法在跨领域具有泛化能力。
引用
@article{arxiv.2312.14770,
title = {Integration Of Evolutionary Automated Machine Learning With Structural Sensitivity Analysis For Composite Pipelines},
author = {Nikolay O. Nikitin and Maiia Pinchuk and Valerii Pokrovskii and Peter Shevchenko and Andrey Getmanov and Yaroslav Aksenkin and Ilia Revin and Andrey Stebenkov and Ekaterina Poslavskaya and Anna V. Kalyuzhnaya},
journal= {arXiv preprint arXiv:2312.14770},
year = {2023}
}