隐藏在复杂性度量背后的信息擦除
数据分析、统计与概率
2011-10-24 v2 统计力学
计算复杂性
摘要
复杂系统存在于大多数科学分支中。关于如何最好地量化其复杂性以及达到何种目的,仍存在争议。一种著名的复杂性度量(统计复杂性)在操作意义上与预测系统行为所需的资源量相关。另一种(有效度量复杂性,又名超额熵)是存储在系统本身中的互信息的一种度量。我们表明,对于任何给定系统,这两种度量相差在预测过程中擦除的信息量。我们将这种差异解释为给定模型的低效性。我们找到了这两个度量之比的界限,定义为信息处理效率,类似于热力学第二定律。这两个著名复杂性度量之间的这种新联系为复杂系统的良好模型(即信息擦除较少的模型)提供了定量标准。
引用
@article{arxiv.0905.2918,
title = {Information erasure lurking behind measures of complexity},
author = {Karoline Wiesner and Mile Gu and Elisabeth Rieper and Vlatko Vedral},
journal= {arXiv preprint arXiv:0905.2918},
year = {2011}
}
备注
Withdrawn: The main results, a corrected version of Theorem 1, and further results are contained in the new paper "Information-theoretic bound on the energy cost of stochastic simulation", http://arxiv.org/abs/1110.4217