信息论

出版时间：2013-3  出版社：电子工业出版社  作者：傅祖芸  页数：466  
Tag标签：无  

内容概要

　　 本书系普通高等教育“十一五”国家级规划教材，并于2008年被教育部评为普通高等教育精品教材。本书系统地论述了香农信息论基本理论及某些应用问题，基本覆盖了信息论的各个方面的内容。内容包括：信息的定义和度量；各类离散信源和连续信源的信息熵；有记忆、无记忆、离散和连续信道的信道容量；香农信息论的三个基本定理：无失真信源编码定理、限失真信源编码定理和信道编码定理；网络信息理论及保密系统的信息理论。本书还介绍了无失真数据压缩(即无失真信源编码)的实用的编码算法与方法，以及信道纠错编码的基本内容和分析方法。本书最后还简要地介绍了信息论与热力学、光学、统计学、生物学和医学等其他学科交叉结合的应用内容。本书深入浅出、概念清晰、内容丰富、系统性和可读性强，并具实际应用价值。读者对象：高等院校信息工程、通信工程、雷达、计算机、电子学、信息与计算科学等相关专业的本科生、研究生

书籍目录

第1章 绪论  1.1　信息的概念 1.2　信息论研究的对象、目的和内容 1.3　信息论发展简史与信息科学 第2章　离散信源及其信息测度  2.1　信源的数学模型及分类  2.2　离散信源的信息熵  2.2.1　自信息  2.2.2　信息熵  2.3　信息熵的基本性质 2.4　信息熵的唯一性定理 2.5　离散无记忆的扩展信源  2.6　离散平稳信源  2.6.1　离散平稳信源的数学定义 2.6.2　二维离散平稳信源及其信息熵 2.6.3　离散平稳信源的极限熵  2.7　马尔可夫信源  2.7.1　马尔可夫信源和m阶马尔可夫信源的定义  2.7.2　马尔可夫信源和m阶马尔可夫信源的信息熵 2.8　信源剩余度与自然语言的熵  2.9 　意义信息和加权熵  小结  习题 第3章　离散信道及其信道容量 3．1　信道的数学模型及分类 3．1．1　信道的分类  3．1．2　离散信道的数学模型 3．1．3　单符号离散信道的数学模型  3．2　平均互信息及平均条件互信息  3．2．1　信道疑义度  3．2．2　平均互信息  3．2．3　平均条件互信息 3．3　平均互信息的特性  3．4　信道容量及其一般计算方法 3．4．1　离散无噪信道的信道容量 3．4．2　对称离散信道的信道容量 3．4．3　准对称信道的信道容量  3．4．4　一般离散信道的信道容量 3．5　信道容量的迭代算法  3．5．1　信道容量的迭代算法  3．5．2　信道容量迭代算法的收敛性 3．6　离散无记忆扩展信道及其信道容量 3．7　独立并联信道及其信道容量  3．8　串联信道的互信息和数据处理定理  3．9　信源与信道的匹配  小结  习题 第4章　波形信源和波形信道 4.1　波形信源的统计特性和离散化 4.2　连续信源和波形信源的信息测度 4.2.1　连续信源的差熵  4.2.2　连续平稳信源和波形信源的差熵 4.2.3　两种特殊连续信源的差熵  4.3　连续信源熵的性质及最大差熵定理 4.3.1　差熵的性质  4.3.2　具有最大差熵的连续信源 4.4　连续信源熵的变换  4.4.1　坐标变换后概率密度函数的变化 4.4.2　坐标变换后差熵的变化  4.5　熵功率  4.6　连续信道和波形信道的分类  4.6.1　按信道输入和输出的统计特性分类 4.6.2　按噪声的统计特性分类  4.6.3　按噪声对信号的作用功能分类 4.7　连续信道和波形信道的信息传输率 4.7.1　基本连续信道的平均互信息  4.7.2　多维连续信道的平均互信息  4.7.3　波形信道的信息传输率  4.7.4　连续信道平均互信息的特性 4.8　连续信道和波形信道的信道容量 4.8.1　单符号高斯加性信道  4.8.2　单符号非高斯加性信道  4.8.3　多维无记忆高斯加性连续信道? 4.8.4　多维有记忆高斯加性连续信道 4.8.5　限带高斯白噪声加性波形信道? 4.8.6　有色高斯加性波形信道 4.8.7　香农公式的重要实际指导意义 小结  习题 第5章　无失真信源编码定理 5.1　编码器  5.2　等长码  5.3　渐近等分割性和ε典型序列 5.4　等长信源编码定理  5.5　变长码  5.5.1　唯一可译变长码与即时码  5.5.2　即时码的树图构造法  5.5.3　克拉夫特(Kraft)不等式  5.5.4　唯一可译变长码的判断法 5.6　变长信源编码定理  小结  习题 第6章　有噪信道编码定理 6.1　错误概率和译码规则 6.2　错误概率与编码方法 6.2　联合ε典型序列 6.4　有噪信道编码定理  6.5　联合信源信道编码定理 小结  习题 第7章　保真度准则下的信源编码 7.1　失真度和平均失真度  7.1.1　失真度  7.1.2　平均失真度 7.2　信息率失真函数及其性质 7.2.1　信息率失真函数  7.2.2 　信息率失真函数的性质 7.3　二元信源和离散对称信源的R(D)函数  7.3.1　二元对称信源的R(D)函数  7.3.2 离散对称信源的R(D)函数 7.4 信息率失真函数的参量表述及其计算 7.5 信息率失真函数的迭代算法  7.6 连续信源的信息率失真函数  7.6.1 连续信源的信息率失真函数  7.6.2 高斯信源的信息率失真函数  7.6.3 连续信源R(D)函数的参量表述及其计算  7.7 保真度准则下的信源编码定理 　 7.7.1 失真ε典型序列 　　7.7.2 保真度准则下信源编码定理的证明  7.8 联合有失真信源信道编码定理  7.9 限失真信源编码定理的实用意义  小结  习题 第8章 无失真的信源编码  8.1 霍夫曼（Huffman）码  8.1.1 二元霍夫曼码  8.1.2 r元霍夫曼码  8.1.3 霍夫曼码的最佳性  8.2 费诺（Fano）码  8.3 香农-费诺-埃利斯码  8.4 游程编码和MH编码  8.4.1 游程编码  8.4.2 MH编码  8.5 算术编码  8.6 字典码  8.6.1 LZ?77编码算法  8.6.2 LZ?78编码算法  8.6.3 LZW编码算法  8.6.4 LZ码复杂度和性能分析  小结  习题 第9章 信道的纠错编码  9.1 差错控制的基本形式  9.2 纠错码分类及基本概念  9.2.1 纠错码分类  9.2.2 纠错码的基本概念及其纠错能力 9.3 线性分组码  9.3.1 一致校验矩阵和生成矩阵 9.3.2 伴随式及标准阵列译码  9.3.3 汉明码  9.4 循环码 9.4.1 循环码结构及其多项式描述  9.4.2 循环码的生成多项式和生成矩阵  9.4.3 循环码的校验多项式和伴随式  9.4.4 循环码的编、译码器 9.5 卷积码  9.5.1 卷积码的解析表示  9.5.2 卷积码的图解表示  小结  习题 第10章 网络信息论  10.1 通信网信道的分类  10.2 多个随机变量的联合典型序列  10.3 相关信源编码  10.4 多址接入信道  10.4.1 离散多址接入信道  10.4.2 多址接入高斯噪声信道  10.5 相关信源和多址接入信道  10.5.1 相关信源和多址接入信道的对偶性  10.5.2 相关信源的多址接入信道  10.6 广播信道  10.7 中继信道  10.8 具有边信息的信源编码  10.9 具有边信息的数据压缩  小结  习题 第11章 保密系统的基本信息理论  11.1 保密学的基本概念  11.2 保密系统的数学模型  11.3 古典密码体制  11.3.1 单表密码  11.3.2 移位代换密码  11.3.3 乘数密码  11.3.4 固定周期d的位移置换  11.3.5 多表代换密码  11.4 完全保密性  11.5 理论保密性  11.6 实际保密性  小结  习题 第12章 信息论与其他学科的关系和应用  12.1 信息熵与热力学熵  12.2 信息论与光学  12.2.1 光学信息量  12.2.2 光量子信道的信道容量  12.2.3 最大熵光学图像恢复  12.3 最大熵原理与谱估计  12.3.1 高斯随机过程的熵率  12.3.2 伯格的最大熵定理  12.4 信息论与生命科学 12.4.1 DNA到蛋白质的通信系统  12.4.2 信息系数与信息分类  12.4.3 医学中的信息分析  小结 附录  附录A 凸函数和詹森不等式  附录B 马尔可夫链  B.1 马尔可夫链的定义  B.2 转移概率和转移矩阵  B.3 各态历经定理  附录C 熵函数的函数表  附录D 所用符号及编写说明 参考书目和文献

章节摘录

版权页：插图：5.信息的广义概念（1）信息是物质世界的三大支柱之一目前，哲学家和科学家普遍认为，物质、能量和信息是物质世界的三大支柱，是科学历史上三个最重要的基本概念。世界是物质的。没有物质就没有世界，就没有一切，也就没有信息。可以说信息与物质同存，信息是物质的一种普遍属性。在物质世界中任何事物都处于永恒的运动和普遍的相互作用之中。只要有运动和相互作用的事物，就需要有能量，也就会产生各种各样事物运动的状态和方式，就产生信息。信息是作为物质存在方式和状态的自身显示，同样也是相互作用的自身显示。可见，信息源于物质世界本身，源于物质世界的运动和相互作用之中，所以信息是普遍存在的。信息是物质的属性，但不是物质自身，信息具有相对独立性。事物运动的状态和方式一旦体现出来，就可以脱离原来的事物而相对独立地载附于别的事物上，而被提取、变换、传递、存储、加工或处理。因此，信息不等于它的源事物，也不等于它的载体。信息虽不等于物质本身，但它也不可能脱离物质而独立存在，必须以物质为载体，以能量为动力。这三者是相辅相成，缺一不可的。这也正是信息的绝对性、普遍性和独立性。正是信息的这种相对独立性，使得它可以被传递、复制、存储和扩散。这就是信息的可贵特性——共享性。信息的共享是无限的。只要是无干扰和全息传递，共享的信息就是完全等同的，并不因为信息被共享后而使原占有者丢失信息。所以，信息传播、扩散越快、越广，就越加速推动人类社会的发展和进步。可以说，信息的共享性对人类社会的发展有着特别重要的意义。

编辑推荐

《信息论:基础理论与应用(第3版)》：普通高等教育“十一五”国家级规划教材,电子信息科学与工程类专业精品教材

用户评论 (总计24条)

•   正版，而且这本信息论非常不错，是科大研究生教材喔
•   感觉这本书 是国内信息论方面最好的书了 给了我很大帮助
•   作为这个时代的人不得不了解的一项理论
•   书得内容很好！得心应手。
•   教材啊。必买。
•   所有的点，还是很全的。。想查什么都能查到。这本书不错的。
•   傅祖芸老师的书，还有什么说的，绝对的好书。。。
•   书也很不错！
•   字太多了...感觉看起来很吃力
•   东西还是蛮不错的！！！
•   还不错...挺好的东西
•   这个第二版的原价还没有打折后的第三版的贵
•   国内比较好的一本书吧
•   纸张一般，但书是好书，好
•   学习，
•   错的地方还是错的没啥改进
•   这是我的第一个网购评论。评论对顾客购买影响很大，尤其是网购这种特殊的形式。我决定每次都诚实评价！这本书的印刷很好，封皮也是全新的。从外观来看，应该是正版书籍。这本书讲的是基础信息论的知识，书中运用的数学知识不是很多，适用于初学入门者使用。（这是我看完前3章后的感觉~）这次是我第一次在卓越买书，送货非常快（北京）：前一天晚上订的，第二天中午就送到了。外加书本身的质量不错，给了5星。
•   刚开始看或许你看不懂，但是只要有了概率论还有相关的矩阵知识，你就会发现里面的内容还是很容易理解的，而且在以后的工作中或多或少的你会看到他们的影子。
•   国内的经典教材，信息论这高级的理论是通信信息工作者深入学习的必须教材
•   上学期上课的教材，内容细致！
•   信息论是很有学问的学科，我院老师说一旦研究有些迷茫，就可以看看信息论，很有启发。这本书跟其它信息论的书一样，比较注重数学推导。
•   刚看了第一章，发现本书对基本概念的讲解不厌其烦的细致，这对自学者而言非常重要，值得推荐。
•   到货及时，书质量也不错。感觉书写的也还行
•   我们开学要用这本书，就邮寄了，本以为会比较晚收到（毕竟免邮费么），在留言的时候希望早点发货，没想到很快就收到了！！大概才3天，我可是在遥远的内蒙古啊