算法统计学

虽然柯尔莫哥洛夫复杂度是个别有限对象信息内容的公认绝对度量，但对于个别数据样本与总结数据中信息的个别模型（例如数据样本通常所来自的有限集或概率分布）之间的关系，也需要一个类似的绝对概念。基于个体对象间此类关系的统计理论可称为算法统计学，以区别于处理概率系综间关系的经典统计理论。我们发展了统计量、充分统计量与极小充分统计量的算法理论。该理论基于由统计量的码（总结数据中规律性、有意义信息的模型）与模型到数据的码组成的两部分码。与概率统计理论中的情形相反，算法意义下的（极小）充分性是个体模型与个体数据样本之间的绝对关系。我们区分模型的隐式与显式描述。我们对两种描述模式下所有数据样本的算法（柯尔莫哥洛夫）极小充分统计量给出了刻画——在显式模式下于某些约束下。我们还加强并阐发了关于“柯尔莫哥洛夫结构函数”与“绝对非随机对象”的早期结果——那些稀有对象的最简总结其相关信息的模型（极小充分统计量）至少与对象本身一样复杂。我们展示了概率概念与算法概念之间的紧密关系。