文档介绍：第2章限失真信源与信息率失真函数
引言
R(D)函数的性质
离散信源R(D)函数的计算
连续(模拟)信源的信息率失真函数R(D)
引言
首先在通信系统的信源和信宿的联合空间上定义一个失真测度:
d(ui,uj):U×V→R+([0,+∞])
设U×V上的联合分布为p(ui,vj),则平均失真为:
d=∑∑p(ui,vj)d(ui,vj)
ui vj
在讨论信息率失真函数时,考虑到信源与信宿之间有一个无失真信道,它可以用条件转移概率来描述,在离散时简记为Pji,我们称这个在信源与信宿之间的无失真信道为试验信道。
在实际通信工程中,往往采用R(D)的逆函数,失真信息率D(R)函数更为合适,其原因是作为一个典型信源编码系统,一般以某个速率R为限制条件(它反映现有的数字信道容量),而不是以某个失真D作为起始参量。
将公式(2-1-12)与公式(2-1-13)用如图2-1-2所示图形表示。
图2-1-2 无记忆等概率信源的R(D)与R′(D)
R(D)函数的性质
定理2-2-1:对于离散、单个消息(符号)、限定失真信源,其R(D)函数应满足:
(1) R(D)是D的下凸(∪)函数;
(2) R(D)是D的单调非增函数;
(3) R(D)是D的连续函数;
(4) R(0)=H(p)。
离散信源R(D)函数的计算
等概率对称性失真信源R(D)函数的计算
* 一般情况下的参量表达式
下面,我们讨论R(D)函数的计算,按照R(D)函数的定义,需要在以下约束条件下,求互信息的极值。
定理2-3-1:R′(D)=S,即R(D)斜率为参量S。
* R(D)函数的迭代算法
连续(模拟)信源的信息率失真函数R(D)
“inf”表示下确界,它对应于离散信源极小值,R(D)是[Dmin,Dmax]内的连续下凸函数。
定理2-4-1:有一连续非正态信源U,已知其方差为σ2,熵为HC(U),若规定失真函数为d(u,v)=(u-v)2,则其信息率失真函数R(D)满足下列不等式: