文档介绍：该【chap4 信息率失真函数PPT课件一等奖新名师优质课获奖比赛公开课 】是由【读书百遍】上传分享，文档一共【49】页，该文档可以免费在线阅读，需要了解更多关于【chap4 信息率失真函数PPT课件一等奖新名师优质课获奖比赛公开课 】的内容，可以使用淘豆网的站内搜索功能，选择自己适合的文档，以下文字是截取该文章内的部分文字，如需要获得完整电子版，请下载此文档到您的设备，方便您编辑和打印。第四章 信息率失真函数
无失真信源编码和有噪信道编码告诉我们：只要信道的信息传播速率不不小于信道容量，总能找到一种编码措施,使得在该信道上的信息传播的差错概率任意小；反之，若信道的信息传播速率不小于信道容量，则不也许使信息传播差错概率任意小。
不过，无失真的编码并非总是必要的。
香农首先定义了信息率失真函数R(D)，并论述了有关这个函数的基本定理。
定理指出：在容许一定失真度D的状况下，信源输出的信息传播率可压缩到R(D)值，这就从理论上给出了信息传播率与容许失真之间的关系，奠定了信息率失真理论的基础。
信息率失真理论是进行量化、数模转换、频带压缩和数据压缩的理论基础。
本章重要简介信息率失真理论的基本内容，侧重讨论离散无记忆信源。
首先给出信源的失真度和信息率失真函数的定义与性质；然后讨论离散信源和持续信源的信息率失真函数计算；在这基础上论述保真度准则下的信源编码定理。
4．1 失真测度
一、失真度
从直观感觉可知，若容许失真越大，信息传播率可 越小；若容许失真越小，信息传播率需越大。
因此信息传播率与信源编码所引起的失真(或误差)是有关的。
首先讨论失真的测度。
离散无记忆信源U，信源变量U＝{u1,u2,…ur}，概率分布为P(u)＝[P(u1),P(u2),…P(ur)] 。
信源符号通过信道传播到某接受端，接受端的接受变量V＝ {v1,v2,…vs} 。
对应于每一对(u,v)，我们指定一种非负的函数：
称为单个符号的失真度(或失真函数)。
一般较小的d值代表较小的失真，而d(ui,vj)＝0表达没有失真。
若信源变量U有r个符号，接受变量V有s个符号，则d(ui,vj)就有r×s个,它可以排列成矩阵形式，即：
它为失真矩阵D，是 r×s 阶矩阵。
须强调: 这里假设U是信源，V是信宿，那么U和V之间必有信道。
实际这里U指的是原始的未失真信源，而V是指失真后来的信源。
因此，从U到V之间实际上是失真算法，因此这里的转移概率p(vj/ui)是指一种失真算法，
有时又把p(vj/ui) 称为试验信道的转移概率，如图所示。
原始信源
失真信源
试验信道
信道
U
V
p (vj/ui)
[例1] 离散对称信源(r=s)。信源变量U＝{u1,u2,…ur} ，接受变量V＝ {v1,v2,…vs}。定义单个符号失真度：
这种失真称为汉明失真。汉明失真矩阵是一方阵，对角线上的元素为零，即：
对二元对称信源(s＝r＝2)，信源U＝{0,1}，接受变量V＝{0,1}。在汉明失真定义下，失真矩阵为：
[例2] 删除信源。信源变量U＝{u1,u2,…ur} ，接受变量V＝ {v1,v2,…vs} (s = r+1) 。定义其单个符号失真度为：
其中接受符号vs作为一种删除符号。
在这种状况下，意味着若把信源符号再现为删除符号vs时，其失真程度要比再现为其他接受符号的失真程度少二分之一。
若二元删除信源s ＝2，r＝3， U＝{0,1}，V＝{0,1 ,2} 。失真度为：
则
d(0,0)=d(1,2)=0
d(0,2)=d(1,0)=1
d(0,1)=d(1,1)=1/2
除j=s以外所有的j和i
所有i
[例3] 对称信源(s = r) 。信源变量U＝{u1,u2,…ur} ，接受变量V＝ {v1,v2,…vs} 。失真度定义为：
若信源符号代表信源输出信号的幅度值，这就是一种以方差表达的失真度。它意味着幅度差值大的要比幅度差值小的所引起的失真更为严重，严重程度用平方来表达。
当 r＝3时， U＝{0,1,2}，V＝{0,1,2} ，则失真矩阵为：
上述三个例子阐明了详细失真度的定义。一般状况下根据实际信源的失真，可以定义不一样的失真和误差的度量。此外还可以按其他原则，如引起的损失、风险、主观感觉上的差异大小等来定义失真度d(u,v)。