中文

监测天气、声景与动力系统的形状:面向大数据集维度驱动数据分析的一种新统计量

机器学习 2018-10-30 v1 计算机视觉与模式识别 数据分析、统计与概率 机器学习

摘要

降维方法是大数据分析中的基本工具。这些算法基于这样的假设:数据的“内在维度”通常远小于采集其所处的环境维度。除其通常的将数据进行最小信息损失映射至更小维度的目的外,降维技术隐式或显式地提供关于数据集维度的信息。在本文中,我们提出一种称为 κ\kappa-剖面(κ\kappa-profile)的新统计量用于大数据分析。κ\kappa-剖面源于一个降维优化问题:即寻找一个投影到 kk 维以最优保持数据集中点间弦的问题。从该最优投影中我们提取 κ\kappa,即所有归一化弦集合中最短投影弦的范数。该 κ\kappa 可对任何 kk 计算;因此 κ\kappa 值元组(按维度索引)成为 κ\kappa-剖面。诸如弦回避投影算法与层次弦回避投影算法等算法,为大数据集的 κ\kappa-剖面估计提供了计算可行手段,从而成为一种理解并监测其行为的方法。如我们在本文中所展示,κ\kappa-剖面在若干代表性场景中作为有用统计量:天气数据、声景数据与动力系统数据。

关键词

引用

@article{arxiv.1810.11562,
  title  = {Monitoring the shape of weather, soundscapes, and dynamical systems: a new statistic for dimension-driven data analysis on large data sets},
  author = {Henry Kvinge and Elin Farnell and Michael Kirby and Chris Peterson},
  journal= {arXiv preprint arXiv:1810.11562},
  year   = {2018}
}

备注

Accepted to the 2018 IEEE International Conference on BIG DATA, 9 pages