无平衡随机运动中的 Shannon 熵与 Kullback-Leibler 熵的比较
统计力学
2016-08-31 v1
摘要
我们分析了由标准扩散过程驱动的连续概率分布的 Shannon 信息熵的动力学特性。该熵的选择被另一种选择，即采用条件 Kullback-Leibler 熵的选项所对比。两种熵都能在静态或时间域中对各种概率分布进行区分。对于 Kullback 熵，向平衡的渐近过程通常是单调的。Shannon 熵的时间导数不一定为正，并且是活跃环境中功率传递过程（移除/供应）的敏感指示器。在 Smoluchowski 扩散的情况下，Kullback 熵的时间导数与 Shannon 熵的“生产”速率相同。
引用
@article{arxiv.cond-mat/0504115,
title = {Shannon versus Kullback-Leibler Entropies in Nonequilibrium Random Motion},
author = {Piotr Garbaczewski},
journal= {arXiv preprint arXiv:cond-mat/0504115},
year = {2016}
}
备注
Subm. to Phys. Lett. A, full version available as quant-ph/0408192