《信息理论基础》求取 ⇩

目录1

前言…………………………………………………………………………… ⅲ第一章 概论1

1.1 信息理论的基本内容1

1.2 信息理论的发展简史3

1.3 控制论、信息论与系统论7

1.4 信息理论的应用9

1.5 本书的结构12

第二章 有关信息的基本概念与问题13

2.1 引言13

2.2 自信息与熵14

2.3 互信息17

2.4 多系统22

2.5 凸性定理24

2.6 唯一性定理25

2.7 马科夫过程与马科夫熵29

2.8 热熵与信息熵31

3.1 引言33

第三章 信源及其编码的一些基本概念和理论33

3.2 自然语言和文字作为信源35

3.3 信源熵35

3.4 信源编码37

3.5 无记忆信源38

3.6 定长码39

3.7 变长码42

3.8 码字的平均长度45

3.9 最优编码47

3.10 记忆信源49

3.11 平稳信源51

3.12 遍历性信源53

第四章 信道及其编码的一些基本概念和基本理论59

4.1 引言59

4.2 信道理论59

4.3 信道编码60

4.4 信道容量60

4.5 通信系统61

4.6 无记忆信道容量62

4.7 凸性66

4.8 信道容量方程的解69

4.9 唯一性70

4.10 传输特性73

4.11 仙农定理73

4.12 级联信道74

4.13 无限级联问题75

4.14 并联信道81

附录82

习题83

第五章 连续信源与连续信道86

5.1 连续随机变量的熵86

5.2 连续信源与连续信道86

5.3 连续随机变量的微熵87

5.4 高斯信号的信息度量88

5.5 无记忆的高斯信道和高斯信源92

5.6 有记忆的高斯信道和信源97

5.7 抽样定理99

5.8 高斯波形信道与信源100

5.9 比特能量与比特误差率104

5.10 具有频带限制的信号106

5.11 无频带制约的信号110

5.12 熵功率不等式112

5.13 中心极限定理117

习题120

6.2 变长码124

6.1 引言124

第六章 有关编码的一些基本概念124

6.3 变长码定理125

6.4 克拉夫特定理126

6.5 最优码127

6.6 检错码129

6.7 纠错码130

6.8 汉明码130

6.9 加权码131

7.1 引言133

7.2 离散含噪信道133

第七章 数据传输码133

7.3 距离与分量的表示方法135

7.4 互信息函数136

7.5 数据传输的块码139

习题140

第八章 数据译码与紧缩码145

8.1 数据译码145

8.2 数据紧缩码149

8.3 离散信源的信息容量150

8.4 熵函数151

8.5 为数据紧缩的前束码157

习题159

第九章 数据压缩码165

9.1 引言165

9.2 大于信道容量的传输速率165

9.3 信息的压缩166

9.4 压缩数据的信息容量167

9.5 信息传输定理170

习题172

第十章 试验假设175

10.1 引言175

10.2 曼-皮尔逊定理175

10.3 诺思滤波器177

10.4 判别函数181

10.5 在性能上的初步极限186

10.6 在性能上的渐近界限187

10.7 误差-指数函数191

10.8 逆定理196

10.9 切尔诺夫界限197

习题200

第十一章 估计理论205

11.1 引言205

11.2 参数的估计205

11.3 费希尔（Fisher）信息矩阵208

11.4 多重并行估计210

11.5 脉冲到达时间的估计212

11.6 脉冲到达频率的估计216

11.7 推理原理218

11.8 谱估计220

习题221

第十二章 多端信息网络224

12.1 引言224

12.2 反馈信道224

12.3 多用户信道226

12.4 广播信道230

12.5 双向信道232

12.6 相关数据的远程紧缩237

12.7 具有旁信息的数据紧缩241

12.8 具有旁信息的数据压缩247

12.9 分布系统的数据压缩250

第十三章 检错码与纠错码256

13.1 引言256

13.2 定长码与变长码257

13.3 最优码260

13.4 纠错码261

13.5 线性误差纠错码——二进对称信道262

13.6 卷积编码器274

13.7 状态图与梯形图275

13.8 最大相似解码与Viterbi算法276

第十四章 信息率失真理论278

14.1 引言278

14.2 根据真实度准则的信源编码278

14.3 信息率失真函数及其特性281

14.4 信息率失真理论的基本定理282

14.5 逆定理284

习题285

第十五章 条形码287

15.1 引言287

15.2 通用生产码符号的特性与可解码性289

15.3 条形码的可靠性300

附录A 凸函数的最小化307

附录B K-L展开式310

附录C Toeplitz分布定理313

后记314