希尔伯特-施密特独立性准则的灵敏度图
机器学习
2016-11-03 v1
摘要
核依赖度量能产生随机变量间非线性关系的准确估计，并且具备可靠的理论性质和收敛速率。此外，经验估计易于以封闭形式计算，仅涉及线性代数运算。然而，它们受两个重要问题阻碍：涉及的高计算成本（因为必须计算和存储样本大小的两个核矩阵），以及度量的可解释性（隐藏在隐式特征映射之后）。我们在此解决这两个问题。我们引入了希尔伯特-施密特独立性准则（HSIC）的灵敏度图（SMs）。灵敏度图使我们能够显式分析和可视化样本与特征在依赖度量上的相对相关性。我们还提出了随机化HSIC（RHSIC）及其相应的灵敏度图以应对大规模问题。我们基于随机特征和Bochner定理的框架来近似标准HSIC中涉及的核。RHSIC度量的功效随样本数量良好地扩展，并且它高效地近似HSIC和灵敏度图。我们也给出了该度量和灵敏度图的收敛界。我们的提议在合成示例以及来自经验数据的依赖估计、特征选择和因果推断等具有挑战性的实际问题中进行了说明。
引用
@article{arxiv.1611.00555,
title = {Sensitivity Maps of the Hilbert-Schmidt Independence Criterion},
author = {Adrián Pérez-Suay and Gustau Camps-Valls},
journal= {arXiv preprint arXiv:1611.00555},
year = {2016}
}