语义信源的间接率失真刻画:一般模型与高斯观测情形
信息论
2022-06-02 v2 机器学习
math.IT
摘要
提出了一种由内在状态部分和外在观测部分组成的新型信源模型,并定义和分析了其信息论刻画,即率失真函数。此类信源模型的动机源于近期对信息语义方面的兴趣激增:内在状态对应于信源的语义特征,其通常不可观测,只能从外在观测推断。存在两种失真度量,一种在内在状态与其重建之间,另一种在外在观测与其重建之间。在给定码率下,这两种失真度量之间的权衡由率失真函数刻画,其通过间接率失真理论求解,并被称为该信源的语义率失真函数。作为一般模型及其分析的应用,研究了高斯外在观测的情形,假设内在状态与外在观测间呈线性关系,并在二次失真结构下。语义率失真函数被证明是关于误差协方差矩阵的凸规划问题的解,当模型进一步满足可对角化条件时,给出了反向注水型解。
引用
@article{arxiv.2201.12477,
title = {An Indirect Rate-Distortion Characterization for Semantic Sources: General Model and the Case of Gaussian Observation},
author = {Jiakun Liu and Shuo Shao and Wenyi Zhang and H. Vincent Poor},
journal= {arXiv preprint arXiv:2201.12477},
year = {2022}
}
备注
Part of the preliminary results appears in arXiv:2105.04278