《信息论基础 第3版》求取 ⇩

第1章随机变量的信息度量1

1.1自信息1

1.2熵、联合熵、条件熵3

1.3相对熵和互信息8

1.4信息量的一些基本性质14

1.5广义熵21

习题124

注记及延伸阅读28

第2章随机过程的信息度量和渐近等分性30

2.1信源和随机过程的基本概念30

2.2随机过程的信息度量36

2.3渐近等分性质40

2.4渐近等分性在数据压缩中的应用——信源编码定理44

2.5香农-麦克米兰-布瑞曼定理46

习题249

注记及延伸阅读52

第3章数据压缩和无失真信源编码53

3.1等长码54

3.2变长编码56

3.3哈夫曼码63

3.4算术码67

3.4.1香农-费诺码67

3.4.2自适应算术码72

3.5通用无失真信源编码76

3.5.1LZ算法77

3.5.2 LZW算法82

3.5.3柯佛-杨算法（基于语法的普适信源压缩算法）84

习题385

注记及延伸阅读88

第4章数据可靠传输和信道编码90

4.1离散无记忆信道和信道容量90

4.2信道容量的计算95

4.2.1拉格朗日乘子法95

4.2.2信道容量的迭代算法99

4.3信道编码理论102

4.3.1一些定义和概念102

4.3.2联合典型序列103

4.3.3信道编码定理105

4.4带反馈的信道模型113

4.5联合信源-信道编码定理115

4.6线性分组码118

习题4126

注记及延伸阅读128

第5章限失真信源编码和率失真函数130

5.1限失真信源编码模型和率失真函数130

5.1.1限失真信源编码模型和率失真函数定义130

5.1.2率失真函数的性质133

5.1.3平稳信源的率失真函数135

5.2率失真函数的计算139

5.2.1一个简单的例子139

5.2.2拉格朗日乘子法141

5.2.3迭代算法145

5.3限失真信源编码定理146

习题5152

注记及延伸阅读154

第6章连续信源和信道编码理论156

6.1可微熵156

6.2相对熵和互信息162

6.3连续信源的率失真函数167

6.3.1率失真函数和失真率函数167

6.3.2高斯信源的率失真函数170

6.3.3一般连续信源的率失真函数172

6.4高斯信道175

6.4.1有加性噪声的信道模型和信道容量175

6.4.2复合高斯信道和平稳高斯信道178

习题6184

注记及延伸阅读186

第7章网络信息理论187

7.1网络通信模型188

7.2多变量联合典型序列197

7.3多址信道201

7.3.1二址信道模型和编码定理201

7.3.2多址信道容量区域的计算205

7.3.3高斯多址信道208

7.4相关信源编码211

7.5相关信源和多址信道复合编码问题216

7.6网络编码219

7.6.1几个例子219

7.6.2最大流-最小截定理222

7.6.3线性网络编码224

习题7229

注记及延伸阅读230

第8章信息论和最优资产组合理论233

8.1证券市场的均值-方差资产组合理论简介233

8.2基于信息熵的最优资产组合模型235

8.2.1基于香农熵的最大熵资产组合236

8.2.2基于广义2-次熵的最大熵资产组合238

8.2.3三种模型的比较239

8.3赌徒的困惑和凯利准则241

8.4log-最优资产组合模型243

8.4.1倍率函数和log-最优资产组合243

8.4.2序列投资模型248

8.4.3投资决策中信息作用的模型251

习题8253

注记及延伸阅读254

后记信息论的推广和应用255

参考文献257