《信息论基础》课程介绍 一、课程的目的、地位 这部分主要阐明该课程的性质（比如是公共基础课、专业课等），简单论述此课程与前面及后继课程的关系，阐明该课程的教学目的。 《信息论基础》是应用物理专业的一门专业选修理论课程。课程重点围绕Shannon第一定理(无失真信源编码定理)和第二定理(有噪信道编码定理)，介绍如何运用概率论、随机过程和数理统计等数学方法来研究信息的变换、存储和传输中的一般规律以及信息编码的基本理论，对学生正确选择和有效实施工程实际编码具有重要的理论指导作用。 通过本课程学习，要求学生重点掌握离散信息系统的信息度量、信源和信道的描述及分析、信源与信道匹配、信源和信道编码及...

《信息论基础》课程介绍 一、课程的目的、地位 这部分主要阐明该课程的性质（比如是公共基础课、专业课等），简单论述此课程与前面及后继课程的关系，阐明该课程的教学目的。 《信息论基础》是应用物理专业的一门专业选修理论课程。课程重点围绕Shannon第一定理(无失真信源编码定理)和第二定理(有噪信道编码定理)，介绍如何运用概率论、随机过程和数理统计等数学方法来研究信息的变换、存储和传输中的一般规律以及信息编码的基本理论，对学生正确选择和有效实施工程实际编码具有重要的理论指导作用。 通过本课程学习，要求学生重点掌握离散信息系统的信息度量、信源和信道的描述及分析、信源与信道匹配、信源和信道编码及其相关分析理论等信息论的基础内容，使学生具备对信息传输系统进行理论分析与优化的基本知识，并为后续课程学习打下坚实的理论基础。 二、教材、学生及教学方法 这部分主要论述所采用的教材的原因，对学生的分析及所采取的教学方法 1、教材：《信息论—基础理论与应用》（第三版），傅祖芸编著，电子工业出版社，2011年2月。 2、学生：应用物理专业2011级选修此课程的学生。 3、教学方法：多媒体讲授法。 三、课程的教学内容 这部分任课老师应根据教学大纲和自己对该课程的理解，详细阐明该课程的教学内容，包括重点、难点等。 （一）课程内容 第一章 绪论 信息定义 信息传输系统模型 信息论讨论的基本问题 课程内容梗概 第二章 信息的统计度量 1、信息的度量 2、离散集的平均信息量（熵） 3、条件信息量及条件熵 4、互信息量及平均互信息量 各种信息量之间关系（维拉图） 第三章 信源及其描述 1、信源及其分类 2、离散无记忆信源及其熵 3、离散平稳信源及其熵 4、马尔可夫信源及其熵 5、一般信源熵的分析处理方法 第四章 信源编码 1、信源编码基本知识 2、唯一可译码及其判定 3、即时码、树码 4、Kraft定理 5、无失真信源编码定理（定长编码定理、Shannon第一定理） 6、信源编码方法（香农码、埃里斯码、霍夫曼码、MH码、算术码、LZ码） 第五章 信道描述及信道编码 1、信道及其描述 2、信道容量及其计算 3、信道编码 4、错误概率及其计算 5、信道编码定理（Shannon第二定理） 第六章 纠错编码及保密编码简介 1、线性分组码、纠错编码基本概念 2、汉明码 3、非线性编码及保密编码简介 四、课时分配 课程内容 学时分配 第一章 绪论 4学时 第二章 信息的统计度量 6学时 第三章 信源及其描述 6学时 第四章 信源编码 8学时 第五章 信道描述及信道编码 10学时 第六章 纠错编码及保密编码简介 6学时 五、参考文献 1、《Applied Coding and Information Theory for Engineers》，Richard B. Wells著，机械工业出版社，2002年10月（英文版）。 2、《信息理论基础》，常迥，清华大学出版社，1993年3月 3、《应用信息论基础》，朱雪龙，清华大学出版社，2001年3月