文档介绍：信息论--基础理论与应用 北京理工大学 信息与电子学院 2014年3月
可编辑课件
课程类型：专业选修课
学 时：32学时
授课时间：第一周----第八周
考试时间：第九周
教 材：《信息论—基础理论与应用》,傅祖芸,电子工业出版社
参考教材：
①《信息论与编码》,陈运,电子工业出版社
②《应用信息论基础》,朱雪龙，清华大学出版社
③《信息论与编码学****辅导及****题详解》傅祖芸,电子工业出版社
考 核： 平时成绩 15--20％（作业、考勤）
期末考试 80--85％（闭卷）
答 疑：每周星期五下午，4:00—5:00，10＃教学楼313室
联系电话：68912615 邮箱： ******@
可编辑课件
可编辑课件
课程概述
当今的时代是一个信息的时代，信息处理技术的不断进步极大的影响了我们的生活，使我们的生活质量得到很大提高。本课程将介绍信息科学的基础理论和基本方法，课程将基于一个通信系统的抽象数学模型进行展开，课程的数学基础为概率论。整个课程可分为基础理论和编码理论两部分组成。
可编辑课件
学****方法
本课程以概率论为基础，数学推导较多，学****时主要把注意力集中到概念的理解上，不要过分追求数学细节的推导。学****时一定要从始至终注意基本概念的理解，不断加深概念的把握。学****时注意理解各个概念的“用处”，结合其他课程理解它的意义，而不要把它当作数学课来学****提倡独立思考，注重思考在学****中的重要性。
可编辑课件
信 息 论
信息论已经成为现代信息科学的一个重要组成部分，它是现代通信和信息技术的理论基础。现代信息论又是数学概率论下的一个分支，与遍历性理论、大偏差理论以及统计力学等都有密切关系，因此信息论已成为大学诸多专业的必修课和选修课，并不再局限于已有的通信工程、电子工程、信息工程等专业。
信息论是人们在长期通信工程的实践中，由通信技术与概率论、随机过程和数理统计相结合而逐步发展起来的一门学科。
以1948年Shannon发表的论文《通信的数学理论》为标志，宣告了信息论这门学科的诞生。
近半个世纪以来，以通信理论为核心的经典信息论，正以信息技术为物化手段，向高精尖方向迅猛发展，并以神奇般的力量把人类社会推入了信息时代。
可编辑课件
第一章 绪论
信息的概念
信息论研究的对象、目的和任务
信息论发展简史与信息科学
可编辑课件
信息的概念
(1)信息的定义
信息是信息论中最基本、最重要的概念，它是一个既抽象又复杂的概念。
信息的概念是在实践中产生，以前一直被看作是消息的同义词。
信息的概念十分广泛，不同的定义在上百种以上。
数学家认为：信息是使概率分布发生改变的东西。
哲学家认为：信息是物质成分的意识成分按完全特殊的方式融合起来的产物。
可编辑课件
1928年，美国数学家哈特莱 (Hartley)在《贝尔系统电话杂志》上发表了一篇题为《信息传输》的论文。他认为“信息是选择的自由度”。
可编辑课件
美国数学家、控制论的主要奠基人维纳(Wiener）在1950年出版的《控制论与社会》一书中写到：“信息既不是物质又不是能量，信息就是信息”。这句话起初受到批评和嘲笑。但正是这句话揭示了信息的特质：即信息是独立于物质和能量之外存在于客观世界的第三要素。
可编辑课件