面向回归与分类任务的参数空间局部降维方法
机器学习
2024-05-08 v3 数值分析
数值分析
摘要
参数空间缩减已被证明是加速许多数值任务执行的关键工具，如优化、反问题、敏感性分析和代理模型设计，特别是在存在高维参数化系统时。在本工作中，我们提出了一种名为局部主动子空间（LAS）的新方法，它探索了主动子空间与监督聚类技术的协同作用，以在参数空间中实现更高效的降维。通过引入由全局主动子空间诱导的距离度量，我们在不丢失输入-输出关系的情况下执行聚类。我们提出了两种可能的聚类算法：K-medoids 和一种分层自顶向下方法，后者能够施加专门为参数空间缩减任务量身定制的多种划分准则。该方法对于从事代理建模的群体尤为有用。通常，参数空间会呈现出目标函数在不同方向上平均变化较小的子区域。因此，如果将其限制在这些子域内并单独研究，就可以更准确地进行近似。我们在几个复杂度递增的数值实验中测试了新方法，展示了如何处理向量输出，以及如何根据局部主动子空间维度对不同区域进行分类。将这种分类技术作为参数空间或向量输出情况下的输出空间的预处理步骤，为代理建模带来了显著的效果。
引用
@article{arxiv.2107.10867,
title = {A local approach to parameter space reduction for regression and classification tasks},
author = {Francesco Romor and Marco Tezzele and Gianluigi Rozza},
journal= {arXiv preprint arXiv:2107.10867},
year = {2024}
}