信息论基础

出版时间：2008-1  出版社：机械工业  作者：[美]ThomasM.Cove  页数：439  
Tag标签：无  

内容概要

本书是信息论领域中一本简明易懂的教材。主要内容包括：熵、信源、信道容量、率失真、数据压缩与编码理论和复杂度理论等方面的介绍。本书还对网络信息论和假设检验等进行了介绍，并且以赛马模型为出发点，将对证券市场豹研究纳入了信息论的框架，从新的视角给投资组合的研究带来了全新的投资理念和研究技巧。    本书适合作为电子工程、统计学以及电信方面的高年级本科生和研究生的信息论基础教程教材，也可供研究人员和专业人士参考。

书籍目录

译者序第2版前言第1版前言第2版致谢第1版致谢第1章 绪论与概览第2章 熵、相对熵与互信息　2.1 熵　2.2 联合熵与条件熵　2.3 相对熵与互信息　2.4 熵与互信息的关系　2.5 熵、相对熵与互信息的链式法则　2.6 Jensen不等式及其结果　2.7 对数和不等式及其应用　2.8 数据处理不等式　2.9 充分统计量　2.10 费诺不等式　要点　习题　历史回顾第3章 渐近均分性　3.1 渐近均分性定理　3.2 AEP的推论：数据压缩　3.3 高概率集与典型集　要点　习题　历史回顾.第4章 随机过程的熵率　4.1 马尔可夫链　4.2 熵率　4.3 例子：加权图上随机游动的熵率　4.4 热力学第二定律　4.5 马尔可夫链的函数　要点　习题　历史回顾第5章 数据压缩　5.1 有关编码的几个例子　5.2 Kraft不等式　5.3 最优码　5.4 最优码长的界　5.5 惟一可译码的Kraft不等式　5.6 赫夫曼码　5.7 有关赫夫曼码的评论　5.8 赫夫曼码的最优性　5.9 Shannon-Fano-Elias编码　5.10 香农码的竞争最优性　5.11 由均匀硬币投掷生成离散分布　要点　习题　历史回顾第6章 博弈与数据压缩　6.1 赛马　6.2 博弈与边信息　6.3 相依的赛马及其熵率　6.4 英文的熵　6.5 数据压缩与博弈　6.6 英文的熵的博弈估计　要点　习题　历史回顾第7章 信道容量　7.1 信道容量的几个例子　　7.1.1 无噪声二元信道　　7.1.2 无重叠输出的有噪声信道　　7.1.3 有噪声的打字机信道　　7.1.4 二元对称信道　　7.1.5 二元擦除信道　7.2 对称信道　7.3 信道容量的性质　7.4 信道编码定理预览　7.5 定义　7.6 联合典型序列　7.7 信道编码定理　7.8 零误差码　7.9 费诺不等式与编码定理的逆定理　7.10 信道编码定理的逆定理中的等式　7.11 汉明码　7.12 反馈容量　7.13 信源信道分离定理　要点　习题　历史回顾第8章 微分熵　8.1 定义　8.2 连续随机变量的AEP　8.3 微分熵与离散熵的关系　8.4 联合微分熵与条件微分熵　8.5 相对熵与互信息　8.6 微分熵、相对熵以及互信息的性质　要点　习题　历史回顾第9章 高斯信道　9.1 高斯信道：定义　9.2 高斯信道编码定理的逆定理　9.3 带宽有限信道　9.4 并联高斯信道　9.5 高斯彩色噪声信道　9.6 带反馈的高斯信道　要点　习题　历史回顾第10章 率失真理论　10.1 量化　10.2 定义　10.3 率失真函数的计算　　10.3.1 二元信源　　10.3.2 高斯信源　　10.3.3 独立高斯随机变量的同步描述　10.4 率失真定理的逆定理　10.5 率失真函数的可达性　10.6 强典型序列与率失真　10.7 率失真函数的特征　10.8 信道容量与率失真函数的计算　要点　习题　历史回顾第11章 信息论与统计学　11.1 型方法　11.2 大数定律　11.3 通用信源编码　11.4 大偏差理论　11.5 Sanow定理的几个例子　11.6 条件极限定理　11.7 假设检验　11.8 Chernoff-Stein引理　11.9 Chemoff信息　11.10 费希尔信息与Cramer-Rao不等式　要点　习题　历史回顾第12章 最大熵　12.1 最大熵分布　12.2 几个例子　12.3 奇异最大熵问题　12.4 谱估计　12.5 高斯过程的熵率　12.6 Burg最大熵定理　要点　习题　历史回顾第13章 通用信源编码　13.1 通用码与信道容量　13.2 二元序列的通用编码　13.3 算术编码　13.4 Lempel-Ziv编码　　13.4.1 带滑动窗口的Lernpel-Ziv算法　　13.4.2 树结构Lernpel-Ziv算法　13.5 Lempel-Ziv算法的最优性　　13.5.1 带滑动窗口的Lempel-Ziv算法　　13.5.2 树结构Lempel-Ziv压缩的最优性　要点　习题　历史回顾第14章 科尔莫戈罗夫复杂度　14.1 计算模型　14.2 科尔莫戈罗夫复杂度：定义与几个例子　14.3 科尔莫戈罗夫复杂度与熵　14.4 整数的科尔莫戈罗夫复杂度　14.5 算法随机序列与不可压缩序列　14.6 普适概率　14.7 科尔莫戈罗夫复杂度　14.8 Ω　14.9 万能博弈　14.10 奥克姆剃刀　14.11 科尔莫戈罗夫复杂度与普适概率　14.12 科尔莫戈罗夫充分统计量　14.13 最短描述长度准则　要点　习题　历史回顾第15章 网络信息论　15.1 高斯多用户信道　　15.1.1 单用户高斯信道　　15.1.2 阴个用户的高斯多接人信道　　15.1.3 高斯广播信道　　15.1.4 高斯中继信道　　15.1.5 高斯干扰信道　　15.1.6 高斯双程信道　15.2 联合典型序列　15.3 多接人信道　　15.3.1 多接人信道容量区域的可达性　　15.3.2 对多接人信道容量区域的评述　　15.3.3 多接人信道容量区域的凸性　　15.3.4 多接人信道的逆定理　　15.3.5 m个用户的多接人信道　　15.3.6 高斯多接人信道　15.4 相关信源的编码　　15.4.1 Slepian-wolf定理的可达性　　15.4.2 Slepian-Wolf定理的逆定理　　15.4.3 多信源的Slepian-Wolf定理　　15.4.4 Slepian-Wolf编码定理的解释　15.5 Slepian-Wolf编码与多接人信道之间的对偶性　15.6 广播信道　　15.6.1 广播信道的定义　　15.6.2 退化广播信道　　15.6.3 退化广播信道的容量区域　15.7 中继信道　15.8 具有边信息的信源编码　15.9 具有边信息的率失真　15.10 一般多终端网络　要点　习题　历史回顾第16章 信息论与投资组合理论　16.1 股票市场：一些定义　16.2 对数最优投资组合的库恩-塔克特征　16.3 对数最优投资组合的渐近最优性　16.4 边信息与增长率　16.5 平稳市场中的投资　16.6 对数最优投资组合的竞争最优性　16.7 万能投资组合　　16.7.1 有限期万能投资组合　　16.7.2 无限期万能投资组合　16.8 Shanon-McMillan-Breiman定理(广义渐近均分性质)　要点　习题　历史回顾第17章 信息论中的不等式　17.1 信息论中的基本不等式　17.2 微分熵　17.3 熵与相对熵的界　17.4 关于型的不等式　17.5 熵的组合界　17.6 子集的熵率　17.7 熵与费希尔信息　17.8 熵幂不等式与布伦-闵可夫斯基不等式　17.9 有关行列式的不等式　17.10 关于行列式的比值的不等式　要点　习题　历史回顾参考文献索引

编辑推荐

《信息论基础》(原书第2版)适合作为电子工程、统计学以及电信方面的高年级本科生和研究生的信息论基础教程教材，也可供研究人员和专业人士参考。

用户评论 (总计99条)

•   本人先看了这本书的原版，是从网上下载电子版自己打印的那种，内容深入浅出，免于我这种想应用信息论，而又不想学编码等内容的人。现在找到了这本翻译版，有点小激动，不过拿到时感觉比想象中的薄一些。原版打印出来估计有中文版的三倍厚吧。
•   是研究信息论的基础书籍，特别是编解码领域。
•   大学时学信息论的教材，内容经典，简明，叙述清晰，推荐
•   没啥好说的，经典的基础教材，还是值得拥有的，如果想深入学习推荐姜丹的信息论
•   信息论是通信所有领域的基础，非常有用
•   这本书是在研究生导师的建议下购买的，说是有关信息论的最为经典的一本书！我自己刚开始看了前两章，讲得挺有意思的！
•   经典的信息论教材
•   学习信息论的，能有一本专业的外文书，很好
•   算得上是经典了吧，内容详尽全面且易于读者自学。初学信息论的同学要必备啊。
•   是一本译著，很不错，属信息论的经典之作。
•   信息论经典书籍，很好，正好用到它。
•   信息论的经典之作
•   信息论，系统论，控制论。你懂的；
•   信息论圣经。
•   主要讲了熵和编码，概念说的很清楚
•   在一个学数学的人看来，这本书有着很强的应用性，将多科学不同领域相同的概念“熵”融合统一起来，并且给出了很多浅显易懂的例子。
•   这本书介绍的很全面,但需要一定的概率统计基础,非常值得购买~~~
•   老师推荐的教材，各方面知识很全面~
•   我们的教材，较为理论，很好很好！！！
•   内容有些难度，需要有一定数学专业基础
•   想要学习信息学理论，先看看这本书
•   这本书的例程详细、各种推论比较多，并且附有重点介绍
•   本书为第二版的翻译教材，很不错！
•   内容由浅入深，涉及的概率与统计的知识较多，很实用，选信息专业这本书是必读的!
•   总的来说翻译的不错，读完之后发现这本书的翻译是由好几个小组的人分章翻译的，对于书中的一些符号连接不好，同时也有不可避免的错误，建议中英文搭配阅读，效果显著！
•   全部是有数学公式组成的，要求有很高的数学和通信理论素养。
•   专业的书。。慢慢看还是会看明白
•   我们的教材呀，经典书籍吧！
•   学这方面专业的，可能不陌生。我不是这个专业的俄，纯粹看乐趣的，这东西在我这种外行眼里，很扎实。推荐。
•   书被快递压坏了些，伤心，其余都满意
•   什么叫好书？好书就是可出很多版本，发行量很大，大家都喜欢买的书。
•   学习通信还是应该看外国人写的书
•   书很好，很有用，满意
•   书翻译得不错哈，和英文搭配起来一起看很有收获。
•   很好的书，什么都好
•   内容很不错，对数学要求高了些
•   如题，传说中的Bible，希望能坚持好好看看
•   如果有英文版的就更好啦
•   感觉没有傅祖芸的那本好~
•   经典！学完概率论后再学习，不然会非常吃力！
•   挺好的 包装挺好质量也没问题 就是价格贵了点
•   非常有价值的参考书，推荐。值得购买
•   这是信息论很权威的教材，很经典
•   必读之！当当网送货果然叫一个快呀。。
•   大系列
•   貌似这门课挺有用
•   翻译的也好吧，总归不如原版的但是翻译本看起来简单啊
•   帮别人买的，实用
•   虽说是影印的，质量还不错的。
•   还没来得及全部看完，前面部分看得很明白。
•   比较全面的学习
•   it is a classic book for student to learn.as a college student i learn a lot from it.
•   大师的作品，值得细细研读
•   深入啊，
  把我以前的学的信号，系统知识都连起来了。
•   很好，很有难度！
•   哈哈。。。。很不错。。。质量速度都不错。。。。。
•   经典，质量过硬，发货快。
•   经典，质量好，发货快。
•   不是经典就不买
•   虽然高数学过一段时间，但此书看起来还是有点困难。要补补习才行。
•   刚开始看。感觉不错。以后再看原版吧，英语不咋好
•   是我所需，不错
•   作者的名字都搞不清楚，给肢解了。
•   在网上下个习题解答就完美了。
•   GoodBook！
•   初学者也可以很容易看懂，由浅入深，讲得很透彻，涉及面也非常广。
•   想要学习一下信息论的基础性东西，但这本书，数学很多，信息的物理性质没有特别说，再有了基础后再看应该更好。
•   数据挖掘方向总要了解点信息论
•   需要熟悉概率论。有信息熵的概念，不过没有说明为什么会是这样定义的，郁闷
•   正版专业书籍，信息类基础，很实用。
•   就书的内容来讲，是一本好书，但书中也有一些翻译的错误，建议读此书后最好再拜读英文原著。
•   中文第2版，翻到第17章看了一下，就发现开始有2个错误，658页：
  1.公式17-1和17-2的不等号写反了。
  2.引理17.1.1 函数logx是凸函数，不是凹函数。
  同时买了英文版的第1版，错误一样。不知英文版的第2版改过来没有。
  
  虽然有错，但感觉内容整体不错！
•   书的内容是经典，只是书的装订质量较一般，发来的时候还有一些破损。
•   才看了两章。好像整本书都把凸函数和凹函数弄反了…
•   书还可以，正在读，会比较难
•   内容还行吧，印刷挺不错的
•   翻译的还行，就是比预期的要薄的多，呵呵。内容较难，对于我这个准硕士，呵呵，可能是需要数学知识做铺垫吧。
•   纸张不是很给力，总体来说还行！
•   数学推导严谨，对不同的人来可能是优点也可能是缺点
•   有点数学基础的人才能看懂，我觉得书籍最好避免这样盲目地累积，盲目地储藏，没什么好处。最好采购一半能理解、一半不能理解的图书。太容易的和太难的都没有必要购
•   推荐清华的，老外写的不好懂
•   在dangdang买了一段时间书了，第一次收到受损这么严重的书。作为一个如此大型的销售网站，货品发送前，是不是应该增加一道检查的工序呢？
•   国内出版集团大都夜郎自大，不思谨小慎微，虚心学习西方技术，尤其在科学、工程方面。反而不自量力自写教材，多是无端抄录，又鲜于斟酌查漏。更可恨的是高校不思进取，逼迫学生买自家教材，以致学生学业荒废，徒有考试彰其虚名，不顾其实。极力推荐先读人家国外的经典教材，学过国内教材的也要拜读一下经典，亲自做个比较，深深钻研，以修其身。
•   觉得这书写得理论很完整，我主要是指数学部分。编码那一块儿我都没看，以我学数学的来看，这本书比其他信息论的书更加严谨完整，拓展部分在投资组合那块儿我也很感兴趣！
•   Google Scholar上信息类论文引用次数最高的书，各个大学用的教材。清华电子系信息论的参考书之一。不过感觉单看这本书还是有些难度，很多地方比较简洁，需要老师上课深入的讲解。
•   科弗教授是当今最权威的信息论专家
•   冲着经典名著买的，由于本科不是信息专业，感觉看起来有难度
•   翻译的效果一般，将就看吧
•   言简意赅，简洁明了，好书
•   快递给力，所有环节都很标准，规范。书就是我要找的那本
•   质量很好，应该是正版的；内容嘛，经典教材不用多说了
•   物流很快书不错，外国教材编的不错
•   内容丰富，不愧是大师之作
•   很好，纸张摸起来很舒服，字迹也很清楚
•   很经典的一本书，学习中。。。。
•   书的质量很好，里面有些内容讲的不是很清晰
•   书不错，讲述很细致
•   包装也不错，书很好
•   纸张太薄了！