工程信息论(21世纪信息通信系列教材) 7563507035

《工程信息论》以信息熵为基本概念，以仙农的三个基本定理为核心，系统地讲述了仙农信息论的基本理论，主要内容包括：离散信息和连续信息的度量，离散信道和连续信道的容量，无失真信源编码定理，有噪信道编码定理，信息率失真函数，有约束信道的容量与编码，空时信道的容量等。 《工程信息论》注重信息论基本知识的理解和基本运算技能的掌握，并强调理论的实际应用，同时还兼顾到该领域的某些最新进展，可作为电子信息与通信类专业本科生的教材和研究生的参考书，还可供相关专业教学，科研以及工程技术人员参考。 《工程信息论》：21世纪信息通信系列教材 第1章 绪论 1.1 信息的概念和主要特征 1.1.1 概述 1.1.2 信息的基本概念和特征 1.1.3 信息论的基本内容 1.2 通信系统的模型 1.2.1 通信系统模型 1.2.2 提高通信系统技术指标的措施 1.3 仙农信息论所研究的问题 1.3.1 仙农信息论所研究的问题 1.3.2 仙农信息论的特点 1.4 仙农信息论形成与发展 1.4.1 技术背景 1.4.2 理论背景 1.4.3 仙农的主要工作 1.4.4 仙农信息论发展 1.4.5 信息论的应用 1.5 仙农生平简介与研究风格 1.5.1 仙农生平简介 1.5.2 仙农的学术风格 第2章 离散信息的度量 2.1 自信息和条件自信息 2.1.1 自信息 2.1.2 联合自信息 2.1.3 条件自信息 2.2 互信息和条件互信息 2.2.1 互信息 2.2.2 互信息的性质 2.2.3 条件互信息 2.3 离散集合的平均自信息(熵) 2.3.1 信息熵 2.3.2 条件熵 2.3.3 联合熵 2.3.4 信息熵与热熵的关系 2.4 熵的基本性质 2.4.1 凸函数 2.4.2 信息散度 2.4.3 熵的基本性质 2.4.4 各类熵的关系 2.4.5 熵函数的惟一性 2.5 离散集的平均互信息 2.5.1 集合与事件之间的互信息 2.5.2 平均互信息 2.5.3 平均互信息与熵的关系 2.5.4 平均互信息的性质 2.5.5 平均条件互信息 本章小结 习题 第3章 离散信源 3.1 信源的分类与数学模型 3.1.1 信源的分类 3.1.2 信源的数学模型 3.2 离散无记忆信源 3.2.1 单符号离散无记忆信源 3.2.2 多维离散无记忆信源 3.3 离散无记忆信源的扩展源 3.3.1 N次扩展源 3.3.2 N次扩展信源的熵 3.4 无限离散信源 3.4.1 无限离散信源的均值和熵 3.5 概率分布的信息生成函数 3.6 离散平稳信源 3.6.1 概述 3.6.2 平稳有记忆N次扩展源的熵 3.7 马尔可夫信源 3.7.1 有限状态马氏链 3.7.2 状态转移概率 3.7.3 齐次马氏链 3.7.4 K0lmogorov-Chapman方程 3.7.5 马氏链状态分类 3.7.6 马氏链的平稳分布 3.7.7 马尔可夫信源 3.7.8 马尔可夫信源熵的计算 3.8 信源的剩余度 3.8.1 信源的相关性 3.8.2 信源剩余度(冗长度) 本章小结 附录定理3.4.2 的证明 习题 第4章 离散信道及其容量 4.1 信道模型及其分类 4.1.1 信道模型 4.1.2 信道的分类 4.2 离散无记忆信道 4.2.1 一般信道的数学模型 4.2.2 离散无记忆信道 4.2.3 平稳(或恒参)信道 4.2.4 单符号离散信道 4.2.5 离散无记忆扩展信道 4.3 扩展信道输入与输出平均互信息 4.4 级联信道 4.5 离散无记忆信道容量 4.5.1 信道容量的定义 4.5.2 离散无噪信道的容量 4.5.3 信道容量的计算 4.5.4 离散对称信道的容量 4.5.5 离散无记忆N次扩展信道的容量 4.5.6 离散并联信道的容量 4.5.7 和信道的容量 4.5.8 关于信道容量的注释 4.6 信道容量的迭代计算 本章小结 附录定理4.5.1 的证明 习题 第5章 无失真信源编码 5.1 概述 5.1.1 无失真信源编码的分类 5.1.2 信源编码器模型 5.1.3 简单信源编码器举例 5.2 分组码 5.2.1 分组码的性质 5.2.2 码树 5.3 定长码 5.3.1 无失真编码条件 5.3.2 信源序列分组定理 5.3.3 渐进均分特性 5.3.4 定长码信源编码定理 5.4 变长码 5.4.1 异前置码的性质 5.4.2 变长码信源编码定理 5.5 最优码 5.5.1 二元哈夫曼(Huffman)编码 5.5.2 多元哈夫曼编码 5.5.3 马氏源的编码 5.6 算术编码 5.6.1 积累概率 5.6.2 算术编码的性能 …… 第6章 有噪信道编码 第7章 连续信息与连续信源 第8章 波形信道 第9章 信息率失真函数 第10章 有约束信道及其编码 第11章 空时信道的容量与空时码 参考文献 50多年前（1948年）经典信息论，即仙农信息论的诞生标志着人们对客观世界认识的飞跃。当前，经典信息论已渗透到多个技术领域，而飞速发展的信息技术也已成为推动世界生产力发展的重要因素。因此，人们越来越认识到信息论的基本原理是从事信息领域研究或管理所必须具备的知识。 20世纪80年代，北京邮电大学周炯槃院士出版的《信息理论基础》是我国第一部系统介绍仙农信息论的专著，开创了我国信息论教学的新阶段，该书曾获教育部优秀教材特等奖。20世纪末，北京邮电大学吴伟陵教授的《信息处理与编码》一书，作为国家95重点教材，全面介绍了通信中的三大基本技术问题，即传输的有效性、传输的可靠性以及传输的安全性问题，也受到社会的广泛欢迎，并多次再版。 随着信息技术的发展，很多大学的相关专业相继开设信息论课程，说明信息论基本理论的普及和掌握在当前信息时代显得越来越重要。因此，编写既适于本科层次又兼顾研究生层次，而且还包含当前信息领域最新进展内容的教材就显得尤为需要。这也是本书《工程信息论》写作的初衷。 本书是在上述两本教材的基础上，用作者经过多年的教学和科研实践经验的积累，以及向众多的信息论与通信界著名专家学习的心得体会写成的。 本书力求遵循与时俱进的原则，简化某些不太重要的内容，适当增加该领域的最新成果。与国内已出版的大部分教材相比，所增加的内容主要有：第2章的信息散度；第3章的无限离散信源和周期马氏源；第4章对离散无记忆信道容量的计算方法的系统归纳；第5章对算术编码的较详细的论述，LZ编码以及文本树加权编码；第6章用联合典型序列方法对仙农第2定理所作的证明；第7章的最大熵谱估计和复高斯信源熵的计算；第8章的数字调制系统的容量，该内容对数字调制与编码系统的研究有重要参考价值；第9章的倒注水原理；第10章的有约束信道容量与编码的大部分内容；第11章的空时信道容量的研究。 插图： 研究语义信息要以语法信息为基础，研究语用信息要以语义信息和语法信息为基础。三者之间，语法信息是最简单、最基本的层次，语用信息则是最复杂、最实用的层次。 仙农在1948年就指出：“通信的基本问题是在一点精确地或近似地恢复另一点所选择的消息。通常，这些消息是有含义的，即它对于某系统指的是某些物理的或抽象的实体。这些通信的语义方面与通信问题无关，而重要的方面是实际消息是从一个可能消息集合中选择出的一条消息。” 可见，仙农在研究信息理论时，排除了语义信息与语用信息的因素，先从语法信息人手解决当时最重要的通信工程一类的信息传递问题。仙农还把信源看成具有输出的随机过程。所以，仙农信息论研究的事物运动的状态和变化方式的外在形式是遵循某种概率分布的随机事件。因此，仙农信息论或经典信息论所研究的信息是语法信息中的概率信息。 有人还提出通信信息也有3个层次，即信号、消息与信息。其中，信号是最低的层次，信息是最高层次。而消息是信息的携带者，信息包含于消息之中，信号是消息的载体，消息是信号的具体内容。 1.1.3 信息论的基本内容 信息论是在概率论、随机过程和通信技术相结合的基础上发展起来的学科，可分为狭义信息论和广义信息论。狭义信息论即仙农信息论或经典信息论，所研究的基本问题是：信源、信道及编码问题，核心是3个编码定理。广义信息论包括仙农或经典信息论、信源编码、信道编码、近代信息论、统计通信理论、通信网理论、信号与信息处理、保密通信等。

ISBN	7563507035
出版社	北京邮电大学出版社
作者	田宝玉
尺寸	16