文档介绍：第3章模拟信号的数字传输
2003-12-08 数字通信与信息网络实验室 1
本章主要参考书
、叶芝慧等译,通信系统
工程,电子工业出版社
樊昌信等编著,通信原理,第5(4)版,国防
工业出版社
曹志刚等编著,现代通信原理,清华大学出
版社
rd
. munication (3
Edition). 电子工业出版社(影印版:数字通
信)
2003-12-08 数字通信与信息网络实验室 2
基本内容
信源及数学模型
信息量
信源编码
模拟信号的数字化
抽样
量化
脉冲调制
2003-12-08 数字通信与信息网络实验室 3
信源及其数学模型:信源
信源
模拟信源:
语音: ~
图象: 0~
数字信源:数据序列
共性:
对接受者而言,不可预知——随机
带限性——抽样定理离散化
系统通过随机媒介(信道)把一个随机过程
(信源)的输出传送到目的地,并确保较低的
失真。
2003-12-08 数字通信与信息网络实验室 4
信源及其数学模型:数学模型
时域离散随机过程{Xi|i∈(-∝,+∝)}:表示信源的
输出
数字信号,二进制传输
模拟信号,如语音、图象的抽样
离散信源的统计描述:设离散信源可发出N种
符号,x1, x2, …, xN, 每个符号出现的概率分别
为P(x1), P(x2), …, P(xN), 则可以用概率场表示为
2003-12-08 数字通信与信息网络实验室 5
信息的度量:消息、信息、信号
信息(Information):信息是要表示和传送的对象(内
容)。例如:“2001年7月13日北京申奥成功”即为一条
信息。普通意义上的通信传送的是信息。
消息(Message):消息是表示信息的媒体,象语言、文
字、图象、符号、声音等。同一条信息可以用不同的消
息表示。信息是包含在消息中的不确定性,即有效(有
用)的东西。消息的本质和价值取决于它所包含的信息
量,即对接收者的不确定性。消息可分为连续消息和离
散消息两大类。离散消息的可能取值是离散的、可数的,
例如文字、符号等都是离散消息。连续消息的可能取值
是连续的、不可数的,例如语音、音乐、活动图象等都
是连续消息。
信号(Signal):信号常常由消息变换而来,它是与消
息对应的某种物理量,通常是时间的函数,例如随着时
间变化的电压(电流)。通信系统中传送的是信号。
2003-12-08 数字通信与信息网络实验室 6
信息的度量:信息量
30年代和2003年“实现个人移动通信”
消息中所含的信息量I与该消息出现的概率P(x)
满足关系:
① I=I{P(x)},与其具体取值无关
② P(x) ↓=> I ↑; P(x) ↑=> I ↓
③独立事件满足叠加性
I{P(x1) P(x2)…}= I{P(x1)}+ I{P(x2)}+…
I( ) = − P( )
xi loga xi
2003-12-08 数字通信与信息网络实验室 7
离散信源的信息量与熵
(自)信息量的定义:某离散消息xi所携带的信
息量(bit)
I( ) = − P( )
xi loga xi
若a=2,单位为比特(bit);若a=e,单位为奈特
(nit);若a=10,单位为哈特莱(Hartley)。
离散信源的平均信息量——信源熵:信源发送
的每个符号的平均信息量(bit/符号)
N
H ( X ) = − P( ) log P( )
∑ xi 2 xi
i=1
注:离散信源中各符号等概且统计独立时,信源熵有最大值。
2003-12-08 数字通信与信息网络实验室 8
离散信源的信息量与熵例举
某离散信源由A、B、C和D共4个符号组成,其出现的
概率分别为3/8、1/4、1/4和1/8,对于消息ABADA
CAAAB CDACA DBACB DAB,求该消息
的自信息量及离散信源的熵(11A6B8C5D)
I( ) = − log P(x ) (bit)
xi 2 i
N
H ( X ) = − P( ) log P( )(bit/符号)
∑ xi 2 xi
i=1
2003-12-08 数字通信与信息网络实验室 9
两个离散信源