信息论与编码 2024春

  一、课程简介

学分:3.0学分

学时:48学时

先修课程:概率论与数理统计、数学分析、矩阵论、随机过程

适用专业:生物医学工程(智能医学仪器)专业

信息论是由Shannon奠基的一门数学学科,它产生于有效而可靠的通信问题中,并获得了广泛应用。通过本课程的学习,使学生对信息理论有一个比较全面和系统的了解,掌握信息论的基本概念和信息论方法,为从事信息科学的研究和应用打下一个坚实的基础。通过对本课程的学习,使学生能掌握有关信息论的基本理论、编码的理论和实现原理;理解信源的熵、熵的性质和无失真信源编码理论、限失真信源编码理论以及各种常用的信源编码方法,为以后开设的专业课程打下了坚实的基础。

 

二、教学内容与要求

第一章 概论

【教学内容】

1.信息的一般概念

2.信息的分类

3.信息论的起源、发展及研究内容

重点:信息的概念、信息的关系与联系

难点:通信系统的模型

【教学要求】

掌握信息论的形成和发展,信息的概念,信息,信号,消息,数据的关系与联系;通信系统的模型。了解信息论研究的对象、目的和内容以及信息论发展简史和现状。

 

 

第二章 信源熵

【教学内容】

1.单符号离散信源

2.多符号离散平稳信源

3.连续信源

4.离散无失真信源编码定理

重点:信息的统计特性和数学模型

难点:求解信源的相关性和剩余度的方法

【教学要求】

掌握信息的统计特性和数学模型,以及各类离散信源的信息,测度——熵及其性质,信源的描述和分类,离散信源熵和互信息,连续信源熵和互信息,离散序列信源的熵,冗余度,联合熵和最大熵定理,求解信源的相关性和剩余度的方法。熟悉离散无记忆信源以及离散无一记忆扩展信源的概念,掌握求一个已知离散无记忆信源的二次扩展信源的方法、离散平稳信源的概念。

 

 

第三章 信道容量

【教学内容】

1.信道的数学模型和分类

2.单符号离散信道的信道容量

3.多符号离散信道

4.多用户信道

5.连续信道

6.信道编码定理

重点:信息的统计特性和数学模型

难点:求解信源的相关性和剩余度的方法

【教学要求】

要求掌握信道的数学模型和分类,信道疑度及平均互信息的概念及特性,信道模型和信道容量,信道编码定理。熟悉离散信道的统计特性和数学模型,掌握信道传输的平均互信息及其性质,并导出信道容量及其计算方法。了解信道容量的概念及离散无一记忆扩展信息的概念及信源与信道匹配的概念,多用户信道。

 

 

第四章 信息率失真函数

【教学内容】

1.基本概念

2.离散信源的信息率失真函数

3.连续信源的信息率失真函数

4.保真度准则下的信源编码定理

重点:平均失真和信息率失真函数,R(D)的定义域和单调性等性质

难点:连续信源的信息率失真函数R(D)的计算

【教学要求】

掌握:平均失真和信息率失真函数,R(D)的定义域和单调性等性质,限失真信源编码定理、离散信源的信息R(D)的计算。

熟悉:连续信源的信息率失真函数R(D)的计算、保真度准则下的信源编码定理。

 

 

第五章 信源编码

【教学内容】

1.香农编码

2.费诺编码

3.哈夫曼编码

4.游程与算术编码

5.冗余位和LZ编码

重点:香农编码方法,费诺编码方法,哈夫曼编码方法

难点:即时码和非即时码

【教学要求】

掌握:编码的定义,码的分类方法,如:定长码和变长码,奇异码和非奇异码,即时码和非即时码等,定长编码定理,变长编码定理。

熟悉:最佳编码方法:香农编码方法,费诺编码方法,哈夫曼编码方法。

了解:各种编码方法的实现细节。

 

 

第六章 信道编码

【教学内容】

1.信道编码的概念

2.线性分组码

3.循环码

4.卷积码

重点:差错控制与信道编译码的基本原理

难点:线性分组码,循环码,卷积码

【教学要求】

掌握:差错控制与信道编译码的基本原理,线性分组码,循环码,卷积码,网格编码调制与级联码简介、卷积码的性能限与距离特点。

 

 

第七章 保密信息理论

【教学内容】

1.密码学的基本知识

2.数据加密标准DES

3.国际数据加密算法

4.公开密钥加密原理

重点:保密系统的基本信息理沦

难点:数据加密标准DES

【教学要求】

掌握:密码学的基本知识、保密系统的基本信息理论、数据加密标准DES。

熟悉:公开密钥加密原理。

了解:国际数据加密算法。

 

 

 

 

 

 

 

三、实验(见习)内容与要求

无。

 

四、基本技能要求(小四黑体)

要求学生掌握概率论与数理统计、数学分析、矩阵论、随机过程等课程。

 

五、扩展性教学内容(小四黑体)  (可选)

     无。

 

六、教材与教学资源(小四黑体)

l)教材:

《信息论与编码》(第1版),陈运,周亮,陈新,电子工业出版社,2002

2)参考书:

[l]《信息论基础》(Elements of Information Theory,英文影印版),Thomas M.cover, Joy A. Thomas,清华大学出版社,2003.11

[2]《信息论与编码理论》(The Theory of Information and Coding,英文影印版)(第2版),Robert J. McEliece,电子工业出版社,2005. 3

 

七、考核(小四黑体)

考核种类:考试。

考核命题:考试题的题型主要有选择题、问答题、计算题和编程题等。

考试时间:120分钟。

计分方法:百分制。

课程成绩组成:学生成绩由考试成绩和平时成绩两部分构成,平时成绩根据学生的平时表现、作业完成情况和上机实习等综合因素形成。学生的考试成绩占课程总成绩的80%,采用统一命题、统一阅卷的方式。学生的平时成绩占课程总成绩的20%。

 

 

附:考核命题计划双向细目表

 
   

 


 

题    型

合           计

客观型(固定应答型)试题

主观型(自由应答型)试题

填空题

 

 

 

 

 

简答题

计算题

 

 

 

 

 

1

 

1

 

 

 

 

 

1

 

 

 

 

 

12 

2

 

2

 

 

 

 

 

1

 

 

 

 

 

15

3

 

1

 

 

 

 

 

 

1

 

 

 

 

14

4

 

2

 

 

 

 

 

 

1

 

 

 

 

14

5

 

1

 

 

 

 

 

 

1

 

 

 

 

15

6

 

2

 

 

 

 

 

 

1

 

 

 

 

16

7

 

1

 

 

 

 

 

 

1 

 

 

 

 

14 

合计

 

10

 

 

 

 

 

 

7

 

 

 

 

100

                               

 

 

 

八、教学时数分配(小四黑体)

(一)理论课学时分配   (五号宋体)

章节

理论课内容

学时

第一章

1.1信息的一般概念

1.2 信息的分类

1.3 信息论的起源、发展及研究内容

3

第二章

2.1 单符号离散信源

3

2.2 多符号离散平稳信源

2.3连续信源

3

2.4 离散无失真信源编码定理

3

第三章

3.1 信道的数学模型和分类

3.2 单符号离散信道的信道容量

3.3 多符号离散信道

3.4 多用户信道

3

3.5 连续信道

3.6 信道编码定理

3

第四章

4.1 基本概念

4.2 离散信源的信息率失真函数

3

4.3 连续信源的信息率失真函数

4.4 保真度准则下的信源编码定理

3

第五章

5.1 香农编码  5.2 费诺编码  5.3 哈夫曼编码

3

5.4 游程编码  5.5 算术编码

3

5.6 冗余位编码  5.7 LZ编码  5.8 信源编码总结

3

第六章

6.1 信道编码的概念

6.2 线性分组码

3

6.3 循环码

3

6.4 卷积码

3

第七章

7.1 密码学简介  7.2 加密技术概述

7.3 数据加密标准 7.4 加密算法

3

 

考试

3

理论课总学时数

48

 

 

   九、课程实施要求及相关说明(小四黑体)

【教学组织、方法要求】

本课程教学过程以学生为主体,以教师为主导,教学组织过程由教研室统一规划,学院以及学校为教学过程的硬件平台提供保障。教学方法以“基于问题教学为主”,体现出“学生探究,教师引导,合作互动”的教学理念。

本课程教学内容新颖翔实,知识结构合理,能够反映出本学科领域最新的科研成果,课程结构清楚,各知识点相互联系、环环相扣,充分体现学科特点。运用现代教育技术和手段,创新教学方法,使教学更加生动形象,形成教学互动的良好教学环境。

学生应主动预习本课程内容,并在老师引导下参考精品课程网站和网络相关内容,勤练习、勤思考,学习与实践相结合完成学习任务。

对于难点,在讲解基本概念的同时,通过多种例题进行示范。

 

【教学多媒体信息技术要求】

1.充分发挥多媒体教学特点。授课教师要发挥多媒体课件图文并茂、音像丰富、信息量大的教学优势,结合传统教学的提问、启发、示教、适当板书等,活跃课堂教学氛围,根据具体情况让学生在黑板上现场编程,充分调动学生在课堂教学中积极参与、积极思维的主动性。

2.发挥教师的能动作用。多媒体技术是教学工作中的一个辅助工具,使用多媒体课件时要借鉴传统教学的经验,保持师生良好的沟通与交流,使之贯穿课堂教学的整个过程。教师要根据课堂上学生的实际反应及气氛变化,有针对性地组织、调整教学内容与方式,以期达到最佳的教学效果。

3.应做好充分的课前准备。教师必须课前要亲临教学现场与管理技术人员联系,调试教学课件,熟悉所用仪器设备和课件兼容情况。除电子教案外,还应准备好应对多媒体设备出现故障情况下的教案,避免一旦停电或设备故障等不能进行正常教学。

Teacher: 黄靖