文档介绍：第五章:信道与信道容量
杨杰
本章节达到的目的
了解信息论研究信道的目的、内容
了解信道的基本分类并掌握信道的基本描述方法
掌握信道容量/信道容量代价函数的概念,以及与互信息、信道输入概率分布、信道转移函数的关系
能够计算简单信道的信道容量/信道容量代价函数(对称离散信道、无记忆加性高斯噪声信道)
了解信道容量/容量代价函数在研究通信系统中的作用
理解香农第一定理又称无噪信道编码的物理意义
进一步从信息论的角度理解香农公式及其用途
概念问题
熵熵率无失真信源编码定理中的作用
互信息信道容量信道编码定理中的作用
回顾-互信息函数的性质1
互信息与信道输入概率分布的关系
性质1 :I(X; Y)是信道输入概率分布p(x)的上凸函数.
回顾-互信息函数的性质2
信息量与信道转移概率分布的关系
性质2 :I(X; Y)是信道转移概率分布p(y/x)的下凹函数.
回顾-互信息函数的性质3
信息量与信道输入符号相关性的关系
性质3: 信道的输入是离散无记忆的,
回顾-互信息函数的性质4
信息量与信道输入符号相关性的关系
性质4: 信道是离散无记忆的,
回顾-互信息函数的性质5
性质3、性质4的推论:
信道的输入和信道本身都是离散无记忆的
信道与信道容量
概述
信道的分类与描述
离散无记忆信道及其容量
连续信道及其容量
容量代价函数C(F)
§:概述
信息论对信道研究的内容
什么是信道?
信道的作用
研究信道的目的