Massey 主题变奏

1994 年，Jim Massey 提出猜测熵作为衡量攻击者对密码系统中所用秘密进行猜测之难度的指标，并建立了熵与猜测熵之间著名的不等式。在此前 15 年多，在一份未发表的工作中，他还建立了给定方差的整数值随机变量的熵的著名不等式。本文在离散（绝对）熵与连续（微分）熵之间关系的更一般框架下，建立了 Massey 这两项工作之间的联系。给出了两种方法，其中整数值变量的离散熵（或 Rényi 熵）可利用某个适当选取的连续随机变量的微分（Rényi）熵来上界限定。作为应用，推导了猜测熵与猜测矩关于熵或 Rényi 熵（无侧信息）以及条件熵或 Arimoto 条件熵（有侧信息时）的下界。