信息论简明教程

出版时间：2009-8  出版社：北京邮电大学出版社  作者：梁栋，张兴 编著  页数：167  
Tag标签：无  

前言

　　信息论是运用概率论与数理统计的方法研究信息、信息熵、通信系统、数据传输、密码学、数据压缩等问题的应用数学学科。目前各级各类高等院校电子、信息、通信和计算机及其相关专业的本科生、研究生都开有信息论这门专业基础课。　　随着高等教育的发展，许多依托重点高等院校举办的独立学院也纷纷开设了信息论这门课程。独立学院的教学与研究型重点大学存在很多不同，例如在培养目标方面，独立学院更加侧重于应用；在生源方面，独立学院学生的基础普遍比较薄弱，尤其是数学基础不太牢固。正是基于这些不同，作者在多年教学和科研实践的基础上，同时参考借鉴了众多国内外优秀的信息论教材及参考书后，撰写了这本专门为应用型本科生使用的教材。　　针对本书主要面向读者的特点，本书仅纳入了信息论中的核心内容和基础内容，对于比较艰深的概念和数学证明都做了适当舍弃，对各章的习题都给出了详细的解答，力争在降低难度的同时，使学生在阅读本书后能对信息论的基本概念和理论有清晰的理解。基于本书入门门槛低、内容删繁就简、习题解答详细等特点，本书也可供自考生、成教生和广大自学爱好者自学。　　本书分为正文和附录两个部分。正文分为7章，第1章绪论介绍香农信息论的研究对象、目的、内容和发展史等；第2章对信息论需要用到的数学基础作了简单的回顾，基础较薄弱的读者应详细阅读本章；第3章介绍关于信息度量的几个重要概念：自信息、平均自信息和熵、联合熵、条件熵、互信息与平均互信息以及熵的链规则等基本概念，这是信息论的基础知识；第4章研究信源熵的问题，包括离散单符号信、离散多符号信源和连续信源，其中离散多符号信源是本章的重点和难点；第5章研究信道容量的问题，包括离散单符号信道、离散多符号信道、组合信道和连续信道等，其中关于信道容量的计算方法是本章的重点和难点；第6章介绍了信源编码的概念、分类和无失真信源编码，其中信源编码定理的理解是本章的难点，霍夫曼编码是本章的重点；第7章简单介绍了信道编码的概念、有噪信道编码定理及其逆定理以及若干种信道编码方法。

内容概要

本书是专为应用型高等院校电子信息类专业本科生撰写的一本教材。考虑到读者的实际情况，本书选取了信息论中的核心内容和基础内容作为讲述的重点，对于信息论中比较艰深的概念和数学推导做了适当的删减。全书分为正文和附录两个部分。正文分为7章，内容包括：数学基础回顾、信息的度量、信源与信源熵、信道与信道容量、信源编码初步、信道编码初步等；附录分为5个部分，附录A给出了各章习题的详细解答，附录B～E给出了若干定理的证明以及部分算法的源程序。与同类信息论书籍相比，本书阅读门槛较低，习题解答详细，可供独立学院学生、自考生、成教生和广大自学爱好者使用。

书籍目录

第1章 绪论  1.1 信息的概念及香农信息论的发展史  1.2 香农信息论的研究对象、目的和内容  1.3 信息论的发展  1.4 如何学好信息论第2章 数学基础回顾  2.1 离散概率论    2.1.1 随机事件的概率    2.1.2 条件概率、全概率公式与贝叶斯公式    2.1.3 离散型随机变量及其分布    2.1.4 二维离散型随机变量的联合分布、边缘分布和条件分布    2.1.5 离散型随机变量函数的分布    2.1.6 离散型随机变量的数字特征  2.2 随机过程初步    2.2.1 随机过程与随机序列    2.2.2 马尔可夫链第3章 信息的度量  3.1 自信息、平均自信息和熵    3.1.1 单个随机事件的自信息    3.1.2 单个随机事件集合的平均自信息(随机变量的信息熵)    3.1.3 熵函数的性质  3.2 联合熵与条件熵    3.2.1 两个随机事件的联合自信息    3.2.2 两个随机事件集合(二维随机变量)的联合熵    3.2.3 两个随机事件的条件自信息    3.2.4 两个随机事件集合(二维随机变量)的条件熵  3.3 互信息与平均互信息    3.3.1 两个随机事件的互信息    3.3.2 两个随机事件集合(二维随机变量)的平均互信息    3.3.3 平均互信息的性质  3.4 平均自信息、联合熵、条件熵和平均互信息的数量关系    3.4.1 数量关系总结    3.4.2 数量关系的证明    3.4.3 熵的链规则  3.5 本章小结  习题3第4章 信源与信源熵  4.1 信源的分类及其数学模型  4.2 离散单符号信源  4.3 离散多符号信源    4.3.1 离散平稳无记忆信源    4.3.2 离散平稳有记忆信源    4.3.3 马尔可夫信源    4.3.4 信源的相关性和剩余度  4.4 连续信源简介  4.5 本章小结  习题4第5章 信道与信道容量  5.1 信道的分类与描述    5.1.1 信道的分类    5.1.2 信道描述  5.2 离散单符号信道及其信道容量    5.2.1 离散单符号信道的数学模型    5.2.2 信道容量的概念    5.2.3 无损信道和无噪信道的信道容量    5.2.4 离散对称信道的信道容量    5.2.5 一般离散信道的信道容量与信道容量定理  5.3 离散多符号信道及其信道容量    5.3.1 离散多符号无记忆信道的数学模型    5.3.2 离散多符号无记忆信道的信道容量  5.4 组合信道及其信道容量    5.4.1 独立并联信道    5.4.2 串联信道  5.5 连续信道及其信道容量介绍  5.6 本章小结  习题5第6章 信源编码初步  6.1 信源编码的概念与分类  ……第7章 信道编码初步附录参考文献

用户评论 (总计1条)

•   这本书是我们任课老师强制要求要买的因为是他出的书！~当时觉得他说这本书，前面是基础知识，后面全是题，后来拿到书后，当时就发现书内有不少错误，当时去找老师，老师说是出版打错了，然后又陆续发现不少错误，之后，我就没去上过这门课了。。所以说比较一般。。。