文档介绍：第五章无失真信源编码主要内容一、信源编码与信道编码二、信源编码的分类三、无失真信源编码四、等长码及等长编码定理五、变长码及变长编码定理六、变长编码的方法一、信源编码与信道编码?1、通过前面几章的学习,我们应该知道:各种通信系统,尽管它们的形式和用途各不相同,但都可以归结为第一章的一般模型。其中信源、信宿和信道是事先给定的,信源是产生消息的源泉,信宿用于接收信息,而信道则用于传输信息。为了实现高质量、高效率的通信,引入了信源编码的信道编码,这些都是由人来设计完成的,通信质量的优劣,很大程度上取决于编码、译码过程设计的优劣。2、信源编码和信道编码各自解决的问题:(1)提高传输率:?一般用尽可能少的信道传输符号来传递信源消息,目的是提高传输率,这是信源编码主要解决的问题。这就是本章第一小节要讨论的内容。(2)增强通信的可靠性:?信号在信道的传播过程中总不可避免地受到各种干扰,在这种情况下,如何增加信号的抗干扰能力,提高传输的可靠性,是信道编码主要考虑的问题。解决这一问题,一般采用冗余编码法,即按照一定的编码规则事先给信码加上一定的冗余度(检测位),赋予信码自身一定的纠错和检错能力,只要采取适当的信道编码和译码措施,就可使信道传输的错误概率降到允许的范围之内,这是后面第六章《信道编码》中要讨论的问题。?综上所述,提高抗干扰能力往往是以降低信息传输率为代价的,而为了提高传输率又往往削弱了其抗干扰能力。这样,设计者在取舍之间就要进行均衡考虑,当然,香龙已经在理论上证明,至少存在某种最佳编码方法,可以有效地解决上述矛盾。二、信源编码的分类?信源编码可分两种情况讨论,即允许接收信号有一定的失真或不允许失真。无失真信源编码?此方法不考虑信道的干扰,仅考虑的是将信源输出的全部信息在接收端精确地重现出来,它只是对信源的冗余度进行压缩,并不改变信源的熵。?(1)此时,将信道编码和译码看成是信道的一个部分。是本章讨论的主要内容。?(2)适用范围:主要针对离散信源。而连续信源在量化编码的过程中必然会有量化失真,所以,对连续信源只能近似地再现信源的消息。限失真信源编码?在许多实际情况中,信宿并不要求完全精确地复现信源输出的原信号,例如,在电话通信系统中,只要将通话内容送达对方就可以了,对音质并没有太高的要求。在这种情况下,允许接收信号有一定的失真,为提高传输率,我们可以事先对信源进行压缩编码,能压缩到什么程度由允许失真的程度来确定。这是本章第2小节至第8小节需要讨论的问题。?适用范围:主要针对连续信源;?共同点:均以提高信息率为主要最终目的。三、无失真信源编码()?主要内容:一般用尽可能少的符号来传输信源消息,以便提高传输效率,这是信源编码应考虑的问题,本小节讨论在不允许失真的情况下的信源编码。等长编码定理给出了等长编码条件下,其码长的下限值,变长编码定理(香龙第一定理)给出了信源无失真变长编码时其码长的上、下限值。本章还介绍了三种通用信源编码方法、费诺编码法和霍夫曼编码法。?知识要点:信息传输率、克拉夫特不等式、等长编码定理、变长编码定理、编码效率、无失真编码方法。?信源编码的定义和两个功能:实际上是对信源的原始符号按一定的数学规则进行变换的一种代码。?信源编码的两个功能(或目的):(1)将信源符号变换成适合信道传输的符号;(2)压缩信源冗余度,提高传输率;