中文

基于量子低熵的关联推理或 QLEAR 学习

机器学习 2017-05-31 v1 信息论 math.IT

摘要

本文提出一种基于我们称之为量子低熵关联推理(Quantum Low Entropy based Associative Reasoning,简称 QLEAR 学习)学习范式的分类方法。该方法基于如下思想:分类可理解为有监督聚类,其中量子概率模型语境下的量子熵将被用作数据“自然结构”的“捕获器”(度量或外部指标)。通过使用量子熵,我们不对待分类数据的线性可分性做任何假设。基本思路是找到查询样本的近邻,然后利用量子熵的相对变化来衡量新到样本与感兴趣代表之间的相似度。换言之,该方法基于参照系统的量子熵及其随新到样本加入而产生的相对变化的计算。参照系统由代表各个类别的向量组成,这些向量在欧氏距离意义上与待分析向量最相似。在此,我们在度量与类别原型样本相似度的语境下分析分类问题。虽然最近邻分类器在此设定下很自然,但在有限采样情况下它们面临高方差(偏差-方差分解中)的问题。另一种方法是使用机器学习技术(如支持向量机),但它们涉及耗时的优化。本文提出一种最近邻与机器学习技术的混合方法,它自然地处理多类设定,在训练和运行时都具有合理的计算复杂度,并在实践中取得了优异的结果。

关键词

引用

@article{arxiv.1705.10503,
  title  = {Quantum Low Entropy based Associative Reasoning or QLEAR Learning},
  author = {Marko V. Jankovic},
  journal= {arXiv preprint arXiv:1705.10503},
  year   = {2017}
}