文档介绍：第三章离散信道及其信道容量第一节信道的数学模型及分类第二节平均互信息及平均条件互信息第三节平均互信息的特性第四节信道容量及其一般计算方法第五节离散无记忆扩展信道及其信道容量第六节信源与信道的匹配 1 第一节信道的数学模型及分类 1、信道的分类: 根据信道用户的多少,可分为: (1)单用户信道: 只有一个输入端和一个输出端,单向通信(2)多用户信道: 至少有一端有两个以上的用户,双向通信根据输入端和输出端的关联: (1)无反馈信道:输出端信号对输入端信号无影响、无作用(2)有反馈信道: 信道输出端的信号反馈到输入端,对输入端的信号起作用,影响输入端信号发生变化 2 根据信道参数与时间的关系: (1)固定参数信道: 信道的参数不随时间变换而改变(2)时变参数信道: 信道的参数随时间变换而变换根据输入输出信号的特点: (1)离散信道: 输入和输出的随机序列的取值都是离散的信道(2)连续信道: 输入和输出的随机序列的取值都是连续的信道(3)半离散半连续信道: 输入序列是离散型的但相应的输出序列是连续的信道,或者相反。(4)波形信道: 信道的输入输出都是时间上连续的随机信号 3 P(y/X) XY 根据这一模型,可对信道分类如下: 设离散信道的输入为一个随机变量 X,相应的输出的随机变量为 Y,如图所示: 规定一个离散信道应有三个参数: 输入符号集: X={x 1,x 2,…,} 输出符号集: Y={y 1,y 2,…,} 信道转移概率: P(Y/X)={p(y1/x1),p(y2/x1), …p ( /x1), …… p(y1/ ) … p( / )} nx my my my nx nx 2、离散信道的数学模型描述输入信号和输出信号之间的统计依赖关系, 反映信道的统计特性 4 (1)无干扰(无噪)信道: 输入信号与输出信号有一一对应关系 1 ( ) ( ) ( / ) 0 ( ) y f x y f x P y x y f x ??? ????, 并且(3)有干扰有记忆信道: 这是最一般的信道,信道中不仅有干扰,并且某一瞬间的输出符号不仅与当前时刻的输入有关,而且还与其他时刻信道输入符号及输出符号有关。(2)有干扰无记忆信道: 输入与输出无一一对应关系, 输出只与当前输入有关; ???? Ni iiN NxyPxxxyyyPxyP 1 2121)()()/(??5 单符号离散信道的输入变量为 X,取值于输出变量为 Y,取值于。并有条件概率条件概率被称为信道的传递概率或转移概率。一般简单的单符号离散信道的数学模型可以用概率空间[X,p(y|x),Y] 来描述。?? 1 2 , , , r a a a ??? 1 2 , , , s b b b ?( | ) ( | ), ( 1, 2, , ; 1, 2, , ) j i P y x P b a i r j s ? ??? ? 3、单符号离散信道的数学模型 1a ra 1b sb ( | ) j i P b a X Y 6 [P]= y 1y 2…y m x 1 p(y 1 /x 1) p(y 2 /x 1) … p(y m /x 1) x 2 p(y 1 /x 2) p(y 2 /x 2) … p(y m /x 2) …………… x n p(y 1 /x n) p(y 2 /x n) … p(y m /x n) 表示成矩阵形式: 7 X={0,1}; Y={0,1}; p(0/0)=p(1/1)=1-p; p(0/1)=p(1/0)=p; [P]= 010 1-p p1p 1-p 0 1-p 0 p p 1 1-p 1 [例 1] 二元对称信道( BSC ) 8 X={0,1}; Y={0,2,1} [P]= 0 21 01 -p p0 10 p 1-p 0 1-p 0 p p 1 1-p 1 2 [例 2] 二元删除信道( BEC ) 9 [P]= y 1y 2…y m x 1 p(y 1 /x 1) p(y 2 /x 1) … p(y m /x 1) x 2 p(y 1 /x 2) p(y 2 /x 2) … p(y m /x 2) …………… x n p(y 1 /x n) p(y 2 /x n