信息瓶颈、因果态与统计相关基:无记忆转导中相关信息的表示
适应与自组织系统
2022-02-17 v1 无序系统与神经网络
机器学习
数据分析、统计与概率
摘要
发现相关的、但可能隐藏的变量,是构建关于自然世界的有用且可预测理论的关键一步。本简短笔记阐释了三种处理此问题方法之间的联系:近年引入的信息瓶颈方法、用于推断最优模型的计算力学方法,以及 Salmon 的统计相关基。
引用
@article{arxiv.nlin/0006025,
title = {Information Bottlenecks, Causal States, and Statistical Relevance Bases: How to Represent Relevant Information in Memoryless Transduction},
author = {Cosma Rohilla Shalizi and James P. Crutchfield},
journal= {arXiv preprint arXiv:nlin/0006025},
year = {2022}
}
备注
3 pages, no figures, submitted to PRE as a "brief report". Revision: added an acknowledgements section originally omitted by a LaTeX bug