《编码和信息理论》

目 录1

译者的话1

原序1

第一章绪论1

1.1一个抽象而又概括的理论1

1.2历史2

1.3通信系统的模型4

1.4信息源5

1.5信源字母的编码7

1.6一些特殊的码9

1.7ASCII码11

1.8一些其它的码13

1.9基r码15

1.10换码符16

1.11本书梗概20

2.1为什么要检错码23

第二章检错码23

2.2简单的一致性检验24

2.3检错码25

2.4独立差错——白噪声26

2.5消息的重发28

2.6简单的突发检错码29

2.7字母和数字混合使用时的检错码——加权码31

2.8模数算术的回顾33

2.9 ISBN书号35

第三章纠错码37

3.1为什么要差错纠正37

3.2矩形码38

3.3三角形码、立方形码和n维码40

3.4 Hamming纠错码41

3.5等价码45

3.6几何方法46

3.7纠正一个差错并发现两个差错的码49

3.8某些概念的应用51

3.9小结52

第四章 变长码——Huffman码53

4.1 引言53

4.2唯一可译的译码54

4.3即时码55

4.4构造即时码57

4.5 Kraft不等式59

4.6缩短分组码64

4.7 McMillan不等式66

4.8 Huffman码67

4.9 Huffman码的一些特例72

4.10码的扩展75

4.11基r Huffman码76

4.12 Huffman编码中概率值误差的影响77

4.13 Huffman码的应用80

4.14 Hamming-Huffman编码80

5.1 引言82

第五章若干其它重要的码82

5.2什么是Markov过程83

5.3遍历的Markov过程88

5.4遍历性Markov过程的有效编码89

5.5 Markov过程的扩展91

5.6预测串编码92

5.7预测编码器93

5.8译码器95

5.9串的长度96

5.10预测编码小结98

5.11什么是杂凑99

5.12冲突的处理100

5.13表上名字的删除101

5.14杂凑小结101

5.15 Gray码的用途102

5.16 Gray码的一些细节103

5.17 Gray码的译码104

5.18其它一些码105

6.1 引言107

第六章熵和Shannon第一定理107

6.2信息108

6.3熵110

6.4熵函数的数学性质115

6.5熵和编码118

6.6 Shannon-Fano编码120

6.7 Shannon-Fano编码比最优编码差多少122

6.8码的扩展123

6.9扩展的一个例子125

6.10 Markov过程的熵129

6.11 Markov过程的一个实例131

6.12伴随系统133

6.13小结135

第七章信道与互信息137

7.1 引言137

7.2信息通道138

7.3信道的一些基本关系式139

7.4二元对称信道的例子141

7.5系统的其它几种熵143

7.6互信息147

7.7利用多个码进行通信时的Shannon定理151

第八章信道容量153

8.1信道容量的定义153

8.2均匀信道154

8.3均匀输入155

8.4纠错码157

8.5二元对称信道的容量158

8.6条件互信息161

第九章数学预备知识163

9.1 引言163

9.2 Gamma函数Γ（n）164

9.3 n!的Stirling近似式166

9.4二项系数和的界限171

9.5 N维Euclidean空间173

9.6一则似非而是的结论176

9.7 Chebyshev不等式与方差179

9.8大数定律181

第十章Shannon的基本定理187

10.1 引言187

10.2判决准则188

10.3二元对称信道191

10.4随机编码192

10.5对随机码取平均196

10.7 Fano上界199

10.6一般情况下的Shannon定理199

10.8 Shannon定理的逆定理202

第十一章代数编码理论204

11.1 引言204

11.2对一致检错码的回顾205

11.3 Hamming码的回顾206

11.4发现两个差错的检错码的回顾208

11.5多项式与矢量209

11.6素多项式211

11.7本原根214

11.8一个具体的例子215

11.9用移位寄存器实现编码218

11.10纠正一个差错的纠错码的译码221

11.11一个纠正两个差错的纠错码223

11.12纠正多个差错的纠错码的译码226

11.13小结227

附录A带宽与采样定理228

A.1 引言228

A.2 Fourier积分229

A.3 采样定理231

A.4 带宽与快速变化232

A.5 AM通信233

A.6 FM通信235

A.7 脉冲通信236

A.8 带宽概述237

附录B供熵函数计算用的几种函数表239

参考文献243

汉英名词对照索引244