香农微分熵估计：广泛比较综述

在本研究工作中，针对香农微分熵估计方法进行了广泛的比较综述。所评估的方法主要基于三类：窗口大小间隔、核密度估计（KDE）和k近邻（kNN）估计。从这三个类别中分别选取了16个、5个和6个估计方法进行比较。通过大量蒙特卡罗模拟，比较了所选27个估计方法的偏差值、均方根误差（RMSE）以及渐近行为。在不同的样本量（10、50和100）和不同变量维度（1、2、3和5）下，对根据对称性和支撑域划分的三个连续分布组进行了经验比较。结果显示，基于间隔的估计方法在单变量水平上通常优于来自其他两个类别的方法，但在多变量水平上则存在不存在的问题。kNN基于的估计方法虽然在所考虑的其他两个类别中总体上不如后者，但显示出在所有维度上都存在优势。此外，获得了一类最优窗口大小的估计方法，并为不同维度下不同分布组的不同方法推荐了一组估计方法。最后，考虑了所选“最佳估计方法”的渐近偏差、方差和分布。