避免局部线性嵌入中的非期望结果：对正则化的新理解
数值分析
2021-08-31 v1 机器学习
数值分析
机器学习
摘要
我们证明了局部线性嵌入 (LLE) 在不使用正则化时固有地容许一些非期望结果，即便在原始算法中本应不需要正则化的情况下也是如此。在数据的每个邻域内均达到精确局部线性关系时，我们数学地证明了一种特殊类型结果（我们称之为“投影模式”）的存在性。通过嵌入高维空间中带孔 Swiss roll 上的数值例子，展示了这些特殊模式以及在更一般情形下可能出现的其他奇异结果。观察到所有这类不良结果均可通过使用正则化而有效防止。
引用
@article{arxiv.2108.12680,
title = {Avoiding unwanted results in locally linear embedding: A new understanding of regularization},
author = {Liren Lin},
journal= {arXiv preprint arXiv:2108.12680},
year = {2021}
}
备注
11 pages