文档介绍：第四章离散信道及其容量
什么是“信道”?
Kelly:不愿或不能改变的部分
信源必须是随机的
信道决定了从信源到信宿的过程中信号所受到的各种影响
信道指定了接收机接收到各种信号的条件概率。输入信号的先念概念则由使用信道的接收机指定
2018/2/21
1
DMC
数学上:输入、输出均可用随机变量序列进行描述,输入序列X1, X2,……是由发射机进行选择,信道则决定输出序列Y1, Y2,……的条件概率
DMC由三部分组成
输入字符集A={a1, a2, a3,…}
输出字符集B={b1, b2, b3,…}
条件概率分布PY|X(·|X),描述了信道对输入信号的影响
2018/2/21
2
离散无记忆:信道在某一时刻的输出只与该时刻的输入有关,而与该时刻之前的输入无关。
。
2. DMC是时不变的
2018/2/21
3
BSC(二元对称信道)
Epslon为交叉概率
2018/2/21
4
BSC解释
考虑一个通信系统,其发射机采用二进制频移键控(BPSK)方式发射信号,即采用两个不同频率的正弦信号分别代表“0”和“1”。发射机每毫秒产生一个脉冲,代表“0”和“1”,该信号通过宽带信道进行传输。接收机每毫秒对接收到的信号作一次“硬判决”,由于传输媒介中噪声和接收机前端热噪声的影响,该判决会存在误差。如果带宽足够宽,则各次判决之间的误差是独立。此时,该信道可以用BSC进行建模。
2018/2/21
5
传输..
发送长度为N的分组
2018/2/21
6
汉明距离
汉明距离:
两个分组之间不同比特的个数,比如d(000, 111)=3, d(101, 011)=2。
2018/2/21
7
BEC 二元擦除信道
Delta为擦除概率
2018/2/21
8
本课程只讨论不带反馈的离散无记忆信道,即条件分布满足
这个假设并不代表各个输入xi之间相互独立
2018/2/21
9
定理
对于离散无记忆信道,条件分布满足:
证明
2018/2/21
10