文档介绍：
通信工程学院实验报告
第1页共#页
软件仿真性实验）
课程名称：信息论基础
实验题目：绘制信源熵函数曲线指导教师：毛煜茹
班级：15050541学号：19学生姓名：王宇
一
通信工程学院实验报告
第1页共#页
软件仿真性实验）
课程名称：信息论基础
实验题目：绘制信源熵函数曲线指导教师：毛煜茹
班级：15050541学号：19学生姓名：王宇
一、实验目的和任务
掌握离散信源熵的原理和计算方法。
熟悉软件的基本操作，练习应用软件进行信源熵函数曲线的绘制。
理解信源熵的物理意义，并能从信源熵函数曲线图上进行解释其物理意义。
二、实验内容及原理
实验内容：
用软件绘制二源信源熵函数曲线。根据曲线说明信源熵的物理意义。
实验原理：
（）离散信源相关的基本概念、原理和计算公式
产生离散信息的信源称为离散信源。离散信源只能产生有限种符号。
假定是一个离散随机变量，即它的取值范围，，，•••是有限或可数的。设第
个变量发生的概率为｝贝V:
定义一个随机事件的自信息量为其对应的随机变量出现概率对数的负值。即：
定义随机事件的平均不确定度为离散随机变量出现概率的数学期望，即：
H(X)p(x)I(x)p(x)logp(x)
iiii
ii
单位为比特/符号或比特/符号序列。
平均不确定度()的定义公式与热力学中熵的表示形式相同，所以又把平均不确定度()称为信源的信源熵。
必须注意以下几点：
＞某一信源，不管它是否输出符号，只有这些符号具有某些概率特性，必有信源的熵值；这熵值是在总体平均上才有意义，因而是个确定值，一般写成()，是指随机变量的整体(包括概率分布)。
＞信息量则只有当信源输出符号而被接收者收到后，才有意义，这就是给与信息者的信息度量，这值本身也可以是随机量，也可以与接收者的情况有关。
＞熵是在平均意义上来表征信源的总体特征的，信源熵是表征信源的平均不确定度，平均自信息量是消除信源不确定度时所需要的信息的量度，即收到一个信源符号，全部解除了这个符号的不确定度。或者说获得这么大的信息量后，信源不确定度就被消除了。信源熵和平均自信息量两者在数值上相等，但含义不同。
＞当某一符号的概率为零时，在熵公式中无意义，为此规定这
时的也为零。当信源中只含有一个符号时，必有，此时
信源熵()为零。
，｝每个符号发生的概率分别为
例1-，1设信源符号集
即信源的概率空间为
X)1
Ppq
则该二元信源的信源熵为即：-
时，
时，
()二维绘图：
例对函数进行绘图，则用中的命令就可以自动绘制出二维图
来。如果打开过图形窗口，则在最近打开的图形窗口上绘制此图；如果未打开图形窗口，则开一个新的图形窗口绘图。
例-在上绘制余弦曲线图，，其中wW・。
1生成横坐标向量，使其为0,,•…
>>y=co，s)；(计%算余弦向量
>>pl，,oy)t(绘制生图形
程1序代码