Manifoldron：通过流形发现实现直接空间划分
机器学习
2022-05-04 v2 计算机视觉与模式识别
摘要
具有广泛使用的 ReLU 激活的神经网络已被证明将样本空间划分为许多凸多面体以进行预测。然而，神经网络及其他机器学习模型所用的参数化空间划分方式存在缺陷，例如复杂模型可解释性受损、因模型通用性导致决策边界构建不灵活，以及陷入捷径解的风险。相比之下，尽管非参数化模型可巧妙避免或弱化这些问题，但它们通常因过度简化或未能适应数据的流形结构而能力不足。在此背景下，我们首先提出一种称为 Manifoldron 的新型机器学习模型，它直接从数据导出决策边界并通过流形结构发现划分空间。随后，我们系统分析了 Manifoldron 的关键特性，如流形刻画能力及其与神经网络的联系。在 4 个合成示例、20 个公共基准数据集和 1 个真实应用上的实验结果表明，所提 Manifoldron 与主流机器学习模型相比具有竞争力。我们已在 https://github.com/wdayang/Manifoldron 分享代码供免费下载与评估。
引用
@article{arxiv.2201.05279,
title = {Manifoldron: Direct Space Partition via Manifold Discovery},
author = {Dayang Wang and Feng-Lei Fan and Bo-Jian Hou and Hao Zhang and Zhen Jia and Boce Zhou and Rongjie Lai and Hengyong Yu and Fei Wang},
journal= {arXiv preprint arXiv:2201.05279},
year = {2022}
}