文档介绍：《信息论与编码》期末论文
姓名文慧班级一班学号 20120602030 成绩
二○一五年一月
信息论与编码的应用与发展
--纠错编码的应用与发展
人类社会在经历了机械化、电气化之后进入了一个崭新的信息化时代。信息论自诞生至今不到80年的时间,在人类科学史上是短暂的,但它的发展对学术界与人类社会的影响是相当广泛的。信息论是通信技术与概率论、随机过程、数理统计相结合逐步发展而形成的一门新兴科学。其研究的目的是发现信息传输的可靠性、有效性、保密性和认证性,以达到信息传输系统的最优化。有效性、可靠性、保密性和认证性构成了现代通信系统对信息传输的全面要求。其研究内容为香农理论,编码理论,维纳理论,检测和估计理论,信号设计和处理理论,调制理论,随机噪声理论和密码学理论等。
首先简单介绍一下信息论的起源、历史与发展。1924年,Nyquist提出信息传输理论;1928年,Hartly提出信息量关系;1932年,Morse发明电报编码;1946年,柯切尼柯夫提出信号检测理论;1948年,Shannon提出信息论,“通信中的数学理论”—现代信息论的开创性的权威论文,为信息论的创立作出了独特的贡献。
现在人们常说的信息论与编码主要包括四大定理,第一定理信源编码定理,是解决通信中信源的压缩问题,也是后来图像和视频压缩的基本定理;第二定理信道编码定理,是解决通信中数据能够在特定信道中传输的最大值的问题,即最大数据速率小于信道容量,容量问题是通信中研究最活跃的问题之一,比如4G或LTE中广泛用到的MIMO(多输入多输出,或多天线)技术,其理论本质是David Tse提出的该容量与天线数成线性递增的关系;第三定理有损信源编码定理解决了在允许一定失真的情况下的信源编码问题,比如jpeg图像编码,mp3音频编码,都是有损的编码,其都是在香农第三定理之下得出的;第四定理信源信道分离定理,解决了信源编码和信道编码能够分开来解决的问题。
这里具体介绍一下信道编码。信道编码(差错控制编码或纠错编码)与传统编码方式比较起来有了比较显著的优点。信道编码定理,从理论上解决理想编码器、译码器的存在性问题,也就是解决信道能传送的最大信息率的前向纠错(FEC)编码。前向纠错码(FEC)是具有一定纠错能力的码型,它在接收端解码后,不仅可以发现错误,而且能够判断错误码元所在的位置,并自动纠错。这种纠错码信息不需要储存,不需要反馈,实时性好。所以在广播系统(单向传输系统)都采用这种信道编码方式。但是它也存在一定的不足,即当纠错能力强时,要增加冗余位;接收可靠性对信道传输条件的恶化很敏感。此外还有自动要求重发(ARQ),FEC和ARQ混合系统(HEC)等纠错编码方式,不同的纠错编码方法,有不同的检错或纠错能力,一般说来,增加监督码元越多,检错或纠错的能力就越强,提高传输可靠性是以降低传输有效性为代价的。说到检错和纠错的能力问题,不得不提通信原理中的最小码距的概念,最小码距的大小直接关系着这种编码的检错和纠错能力,它是衡量各种码抗干扰能力大小的标准。码组的最小距离越大,说明码字间的最小差别越大,抗干扰能力越强。
下面主要谈一谈信道编码的发展与前景。移动通信的发展日新月异,从1978年第一代模拟蜂窝通信系统诞生至今,不过30多年的时间,就已经过好几代的演变,尤其是近两年4G越来越热,因此人们对于