出版时间:2010-9 出版社:清华大学出版社 作者:姜楠,王健 编著 页数:165
内容概要
本书系统地讨论了香农信息理论中的基本概念和相关问题,介绍了信源、信道、信源编码、信道编码的一般原理和基本方法。全书分为8章,包括绪论、信息的统计度量、离散信源、离散信道、连续信源和连续信道、无失真信源编码、限失真信源编码、信道编码。 本书内容深入浅出,适合作为信息工程、通信工程、信息安全、计算机应用等相关专业本科生的教材,也可作为研究生的教材或教学参考书,以及从事信息理论、信息技术、通信系统、信息安全研究的科研和工程技术人员的参考用书。 本书配有电子教案、出题系统和实验系统,便于教学和自学。
书籍目录
第1章 绪论 1.1 信息 1.1.1 信息的概念 1.1.2 信息的性质 1.2 通信系统模型 1.2.1 信源和信宿 1.2.2 编码器和译码器 1.2.3 信道和噪声 1.3 离散与连续 1.4 信息论和编码理论的形成和发展 小结 习题第2章 信息的统计度量 2.1 自信息和条件自信息 2.1.1 自信息的定义与含义 2.1.2 条件自信息的定义与含义 2.2 互信息 2.2.1 互信息的定义与含义 2.2.2 互信息的性质 2.3 平均自信息(熵) 2.3.1 熵的定义与含义 2.3.2 熵函数的数学性质 2.3.3 条件熵 2.3.4 联合熵 2.3.5 各种熵之间的关系 2.4 平均互信息 2.4.1 平均互信息的定义与含义 2.4.2 平均互信息的性质 2.4.3 各种熵和平均互信息量之间的关系 2.5 连续随机变量的互信息和相对熵 2.5.1 连续随机变量的统计特性 2.5.2 连续随机变量的互信息 2.5.3 连续随机变量的相对熵 小结 习题第3章 离散信源 3.1 离散信源的数学模型 3.2 信源的分类 3.2.1 无记忆信源 3.2.2 有记忆信源 3.3 离散无记忆信源 3.3.1 离散无记忆信源及其熵 3.3.2 离散无记忆信源的扩展信源及其熵 3.4 马尔可夫信源 3.4.1 马尔可夫信源的定义 3.4.2 有限状态马尔可夫链 3.4.3 马尔可夫信源的马尔可夫链性质 3.4.4 马尔可夫信源的熵 3.5 离散平稳信源 3.5.1 平稳信源的概念 3.5.2 平稳信源的熵 3.6 信源的相关性和剩余度 小结 习题第4章 离散信道 4.1 离散信道的数学模型 4.2 信道的分类 4.3 离散无记忆信道 4.3.1 离散无记忆信道的数学模型 4.3.2 信道疑义度和噪声熵 4.3.3 信道的平均互信息及其含义 4.4 信道的组合 4.5 信道容量 4.5.1 信息传输率 4.5.2 信道容量的定义及含义 4.5.3 三种特殊信道的容量 4.5.4 对称信道的容量 4.5.5 一般信道的容量 4.5.6 信源和信道的匹配 小结 习题第5章 连续信源和连续信道 5.1 连续信源 5.1.1 连续信源的数学模型 5.1.2 连续信源的熵和互信息 5.2 连续信道及其信道容量 5.2.1 时间离散信道 5.2.2 连续信道 小结 习题第6章 无失真信源编码 6.1 编码的基本概念 6.1.1 编码器和译码器 6.1.2 码的分类 6.1.3 N次扩展码 6.2 “无失真”的本质 6.3 定长码 6.4 变长码 6.4.1 变长码的衡量指标 6.4.2 变长码的特点 6.4.3 唯一可译码和即时码的判别 6.4.4 无失真信源编码定理(香农第一定理) 6.5 霍夫曼码 6.5.1 二元霍夫曼码 6.5.2 多元霍夫曼码 6.6 算术编码 6.6.1 算术编码的基本原理 6.6.2 算术编码方法 6.6.3 算术译码方法 6.7 LZW编码 6.7.1 LZW基本原理 6.7.2 LZW编码方法 小结 习题第7章 限失真信源编码 7.1 失真的度量 7.1.1 失真函数和失真矩阵 7.1.2 序列失真 7.1.3 平均失真和保真度准则 7.2 信息率失真函数 7.2.1 信息率失真函数的定义和含义 7.2.2 信息率失真函数的定义域和性质 7.2.3 信息率失真函数和信道容量的关系 7.2.4 限失真信源编码定理(香农第三定理) 7.3 量化编码 7.3.1 量化编码的主要作用 7.3.2 均匀量化 7.3.3 最优量化 7.3.4 矢量量化编码 7.4 预测编码 7.4.1 预测编码的基本原理和方法 7.4.2 预测编码能够限失真压缩信源的原因 7.4.3 DPCM编译码原理 7.5 变换编码 7.5.1 变换编码的基本原理 7.5.2 变换编码能够限失真压缩信源的原因 7.5.3 离散余弦变换 7.5.4 变换编码的广泛应用 小结 习题第8章 信道编码 8.1 信道编码的基本概念 8.1.1 编译码规则、检纠错能力 8.1.2 平均错误译码概率 8.2 译码规则 8.3 有噪信道编码定理(香农第二定理) 8.4 线性分组码 8.4.1 基本概念 8.4.2 线性分组码的性质 8.4.3 线性分组码的两个重要参数——编码效率和最小汉明距离 8.4.4 生成矩阵和监督矩阵 8.4.5 对偶码 8.4.6 伴随式、伴随式的错误图样表示、根据伴随式译码 8.4.7 汉明码 8.5 循环码 8.5.1 循环码的基本概念 8.5.2 循环码的生成多项式和监督多项式 8.5.3 循环码的译码 8.5.4 BCH码 8.5.5 RS码 8.6 卷积码 8.6.1 卷积码的基本概念和基本原理 8.6.2 卷积码的编码 8.6.3 卷积码的矩阵表述 8.7 突发错误的纠正 8.7.1 基本概念 8.7.2 级联码 8.7.3 交织码 8.7.4 Turbo码 小结 习题附录A 凸函数与詹森(Jensen)不等式 A.1 一元函数的凸性 A.2 函数凸性的判别 A.3 Jensen不等式 A.4 凸域和凸函数 A.5 凸域中的Jensen不等式附录B BCH编码表参考文献
编辑推荐
信息论和编码理论是从工程实践中抽象概括出来的理论知识,既具有很强的理论性,又有广泛的工程实践背景。初学者往往由于缺乏这种实践背景,很难理解其中的理论知识。《信息论与编码理论》力图通过读者身边看得见、摸得着的例子来解释这些理论问题。讲解深入浅出,重点在于对理论知识含义的说明,而非枯燥的证明。 《信息论与编码理论》共分8章。第1章是绪论,介绍信息、通信系统模型、离散与连续等内容。第2章介绍信息的统计度量,也是信息论的基本概念,包括自信息量、互信息量、平均自信息(熵)、平均互信息等,这一章是后续章节的基础。第3、4章分别讨论离散信源和离散信道。第5章概要介绍连续信源和连续信道。第6章和第7章分别讨论无失真信源编码和限失真信源编码。第8章讨论了信道编码。可供各大专院校作为教材使用,也可供从事相关工作的人员作为参考用书使用。
图书封面
评论、评分、阅读与下载