信息论 信道容量 课件.ppt

文档介绍：关于信息论 信道容量
第一页，本课件共有83页
§ 离散信道容量的一般计算方法
对一般离散信道而言，求信道容量，就是在固定信道的条件下，对所有可能的输入概率分布{p(xi)}，求平均互信息的极大值。采用拉各朗日乘子法来计算。
第二页，本课件共有83页
第三页，本课件共有83页
第四页，本课件共有83页
(1)
两边乘p(ai)，并求和，则有：
第五页，本课件共有83页
(2)
第六页，本课件共有83页
将（2）代入（1），则有：
（3）
第七页，本课件共有83页
（4）
则（3）变为：
第八页，本课件共有83页
（5）
（6）
（7）
第九页，本课件共有83页
总结C的求法，过程如下：
（8）
（9）
第十页，本课件共有83页