《信息理论与编码学习指导》是学习和掌握信息理论与编码的教学指导书,与人民邮电出版社出版的吕锋主编的《信息理论与编码(第2版)》相配套,也可作为独立的学习辅导书知其他版本的同类教材配套使。全书包含了香农信息理论的核心内容,以及网络信息论基础和密码学基础,共章。每章由学习要点、教材习题详解、测试题和实验题组成。可以帮助读者全面认识和快速查找信息理的基本概念和重要知识点,通过练习、测试和实验环节进一步理解信息理论的分析思路、基本定理以及重要论。《信息理论与编码学习指导》对概念的梳理条理性强,对习题和测试题的解答详尽,所设计的实验题使读者对信息理论有更加直观的认识。书中的习题和测试题全面覆盖了信息理论的基本概念,题型多样且度适中。此外,还安排了部分英文题目供读者了解信息理论的外文表述。《信息理论与编码学习指导》可供高等学校通信类、电子工程类、信息类专业的师生使用,也可作为相关科研人员学习信息理论的辅导书。
编辑推荐
《信息理论与编码学习指导》是21世纪高等院校信息与通信工程规划教材。 目录
第1章绪论
1.1基本要求
1.2学习要点
1.2.1信息的基本概念
1.2.2信息论的研究对象
1.2.3信息论的发展历程
1.2.4信息论的主要研究內容
1.3教材习题及参考答案
1.4测验题及参考答案
1.4.1测验题
1.4.2测验题参考答案
第2章信息的度量
2.1基本要求
2.2学习要点
2.2.1信源的分类
2.2.2信源的数学模型
2.2.3离散信源的自信息
2.2.4离散信源的互信息量及其性质
2.2.5离散信源熵
2.2.6联合熵和条件熵
2.2.7各类熵之间的关系
2.2.8平均互信息量及其性质
2.2.9离散无记忆扩展信源的熵
2.2.10离散有记忆信源的熵
2.2.11马尔可夫信源的信息熵
2.2.12离散信源的信息率和信息含量效率
2.2.13连续信源的微分熵和平均互信息量
2.3教材习题及参考答案
2.4测验题及参考答案
2.4.1测验题
2.4.2测验题参考答案
2.5实验题及参考程序
2.5.1实验题
2.5.2实验题参考程序
第3章信道模型和信道容量
3 基本要求
3.1 学习要点
3.2.1信道的分类
3.2.2信道的数学模型
3.2.3信道的疑义度、散布度和平均亙信息
3.2.4信道容量
3.2.5 信道的组合
3.2.6 信道绝对剩余度
3.2.7连续信道的信道容量
3.2.8波形信道及其信道容量
3.3教材习题及参考答案
3.4测验题及参考答案
3.4.1测验题
3.4.2测验题参考答案
3.5实验题及参考程序
3.5.1实验题
3.5.2实验题参考程序
第4章离散无记忆信源无失真编码
4.1基本要求
4.2学习要点
4.2.1信源编码的基本术语
4.2.2信源编码的基本概念
4.2.3定长无失真编码定理
……
第5章 有噪信道编码
第6章 限失真信源编码
第7章 网络信息论基础
第8章 信息安全与密码基础
参考文献 文摘
版权页:
插图:
2.用某些学科的专门术语和名词来定义信息
(1)信息是集合之间的变异度。
(2)信息是一种场。
(3)信息是信号。
“集合”和“场”分别是从数学和物理学中引入的概念,就概念本身来说就很专业、难懂,拿来定义信息就更加不好理解。信号是电子学的专业名词,是表现信息的一种形式,或传输信息的一种载体,不是信息本身。
3.从广义的角度、或者说从哲学意义上来定义信息
(1)信息就是信息,既不是物质也不是能量。
(2)信息是事物之间的差异。
(3)信息是事物相互作用的表现形式。
(4)信息是事物联系的普遍形式。
(5)信息是物质的普遍属性。
这类定义很多,它们的共性是力争在一般意义上来定义信息,哲学意味很浓,但难以从定义出发引出信息的度量方法。
4.从控制论和系统论的角度来定义信息
(1)信息是与控制系统相联系的一种功能现象。
(2)信息是控制的指令。
(3)信息是系统组织程度的度量。
(4)信息是有序性的度量。
(5)信息是负熵。
前两种是从控制论的角度下的定义,后3种是从系统论角度下的定义。这3种定义与香农对信息的理解较为接近,香农把信息理解为消除不确定性的东西。
5.从随机不确定性的角度来定义信息
(1)信息是收信者事先不知道的报道。
(2)信息是反映不确定性的消除数量。
此类定义考虑到了通信的实际情况,即收信者在收到信息之前是心存疑问或不确定性的,收到信息之后,不确定性会减少或消除。
经典信息论是以香农理论为基础建立起来的,1948年,香农在所发表的著名论文。通信的数学理论”中对信息进行了定性和定量的描述。他指出:“信息是事物运动状态或存在方式的不确定性的描述”。
1.2.2 信息论的研究对象
信息论的研究对象是如图
1.1 所示的统一的基本模型。它是一个点到点的单向信息传输系统模型,利用该模型可解释各种通信系统中的一些共性问题。
| ISBN | 9787115236845,711523 |
|---|---|
| 出版社 | 人民邮电出版社 |
| 作者 | 王虹 |
| 尺寸 | 16 |