文档介绍：中南大学信息论与编码课实验报告专业班级: 指导老师: 张祖平姓名:学号: 实验一关于信源熵的实验一、实验目的。 matlab 软件的基本操作,练****使用 matlab 求解信源的信息熵。 3. 自学图像熵的相关概念,并应用所学知识,使用 matlab 或其他开发工具求解图像熵。 Excel 的绘图功能,使用 Excel 绘制散点图、直方图。二、实验原理 1. 离散信源相关的基本概念、原理和计算公式产生离散信息的信源称为离散信源。离散信源只能产生有限种符号。随机事件的自信息量 I( x i)为其对应的随机变量 x i出现概率对数的负值。即: I( x i) = -log 2p(x i) 随机事件 X的平均不确定度(信源熵) H( X)为离散随机变量 x i出现概率的数学期望,即: ????? ii iiiixpxpxIxpXH)( log )()()()( 2. 信源的信息熵设信源符号集 X ={a1 , a2, …, ar}, 每个符号发生的概率分别为 p (a1)= p1, p (a2)= p2, …, p (ar) ,即信源的概率空间为,?????????????)(... ...)2( 2)1( 1arp ar ap aap aP X 则该信源的信源熵为: H(X)=- p (a1) log p (a1) –p (a2) log p (a2) –…– p (ar) log p (ar) 3. 信道的数学模型与相关熵的计算?单符号离散无噪声无损信道的信道容量( ) max ( ; ) bit/ i p x C I X Y ?信道符号 4. MATLAB 二维绘图用 matlab 中的命令 plot( x,y)就可以自动绘制出二维图来。例 1-2 ,在 matlab 上绘制余弦曲线图, y= cos x,其中 0 ≤x ≤2?。>> x=0::2*pi ;%生成横坐标向量,使其为 0, , ,…, >> y=cos( x);%计算余弦向量>>plot( x, y)%绘制图形 5. MATLAB 求解离散信源熵求解信息熵过程: 1)输入一个离散信源,并检查该信源是否是完备集。 2)根据 H(X) 公式,求出离散信源的熵。?? 1 2 , , , r x X a a a ? ??输入符号集: 1 2 { , , , } s y Y b b b ? ??输出符号集:)/()();( jiijibaIaIbaI??)/( 1 log )( 1 log jiibapap ??( ; ) ( ) ( ; ) ( ) ( ; ) ( ; ) i j i j j i j i j i j i I X Y p a b I a b p b a I b a I Y X ?? ????? 1 1 ( | ) ( ) log ( | ) m n i j i j i j H X Y p x y p x y ? ????? 2 1 1 1 1 ( / ) ( ) ( / ) ( ) log ( / ) m n m n i j j i i j j i j i j i H Y X p x y I y x p x y p y x ? ? ??? ???? ?? 6. 图像熵的相关知识图像熵是一种特征的统计形式,它反映了图像中平均信息量的多少。图像的一维熵表示图像中灰度分布的聚集特征所包含的信息量,令 Pi 表示图像中灰度值为 i的像素所占的比例,则定义灰度图像的一元灰度熵为: 图像熵计算过程: 1)输入一幅图像,并将其转换成灰度图像。 2)统计出图像中每个灰度阶象素概率。 3)计算出一幅图像的一维熵。 7. Excel 的绘图功能比如:用 Excel 或制作二元熵函数曲线。具体步骤如下: 1)启动 Excel 应用程序。 2)准备一组数据 p。在 Excel 的一个工作表的 A列(或其它列)输入一组 p, 取步长为 ,从 0至 100 产生 101 个 p(利用 Excel 填充功能)。 3)使用 Excel 的计算功能,在 B列中用二元熵函数计算公式,求得 A列中各数值对应的二元熵值。比如:在单元格 B2 中输入公式: =-A2*LOG(A2,2)-(1-A2)*LOG(1-A2,2) 。 4)使用 Excel 的图表向导,图表类型选“ XY 散点图”,子图表类型选“无数据点平