《信息论》

目录1

前言1

第一章　单符号离散信源1

第一节　不肯定性的度量与熵函数1

第二节　熵与信息测度9

第三节　信息熵的数学特性14

第四节　最大离散熵定理21

第二章　多符号离散平稳信源38

第一节　平稳无记忆信源的信息熵38

第二节　平稳有记忆信源的信息熵41

第三节　马尔柯夫（Markov）链45

第四节　马尔柯夫信源的极限熵64

第五节　信息变差和剩余度70

第三章　连续信源的熵73

第一节　连续随机变量的熵和信息74

第二节　最大熵定理80

第三节　随机变量函数的熵99

第四章　随机过程的熵110

第一节　富里埃（富氏）分析的基本概念110

第二节　限时和限频随机过程的离散化123

第三节　随机过程的解相关133

第四节　随机过程通过线性网络时熵的变化143

第五章　单符号离散信道的平均交互信息量148

第一节　单符号离散信道的一般概念149

第二节　交互信息量和自信息量152

第三节　条件熵和平均交互信息量161

第四节　平均交互信息量的特性166

第五节　串接信道的平均交互信息量175

第六章　单符号离散信道的信道容量192

第一节　信道容量的基本概念192

第二节　几种特殊信道的信道容量194

第三节　信道容量的迭代计算215

第七章　多符号离散信道225

第一节　一般概念225

第二节　离散无记忆信道226

第三节　多符号离散信道的平均交互信息量229

第四节　独立并联信道的容量236

第八章　离散信道编码定理240

第一节　无噪离散信道编码定理240

第二节　有噪离散信道编码定理249

第一节　平均交互信息量的一般特性262

第九章　连续信道262

第二节　高斯加性连续信道及其容量272

第三节　多符号连续信道278

第十章　多用户信道297

第一节　双输入单输出信道297

第二节　单输入双输出信道313

第十一章　信息率失真函数322

第一节　一般概念和定义322

第二节　R（D）函数的性质331

第三节　离散信源R（D）函数的计算344

第四节　连续信源的R（D）函数371

第五节　R（D）函数与信息价值395

第六节　R（D）数学方法的扩展403