《资讯理伦与编码》

第一章　绪论1

1-1　什麽不是资讯理论1

1-2　什麽是资讯理论2

1-3　编译资讯3

1-4　资讯传送上的一个问题5

1-5一些问题8

第二章　资讯与来源10

2-1资讯的定义10

2-2　无记忆资讯来源12

2-3　熵的一些性质14

2-4　一个无记忆来源的推广19

2-5　马可夫资讯来源22

2-6　伴随来源27

2-7　一个马可夫来源的推广30

2-8　语言的结构35

第三章　讯码的一些性质48

3-1　绪论48

3-2　唯一可译解讯码49

3-3　瞬时讯码52

3-4　一套瞬时讯码的构建55

3-5　克拉夫特不等式—叙述与讨论56

3-6克拉夫特不等式—证明60

3-7　麦克米兰的不等式62

3-8　一些例子64

第四章　编译资讯来源69

4-1　一套讯码的平均长度69

4-2　一种编译特殊来源的方法72

4-3　夏农的第一定理76

4-4　马可夫来源情况下的夏农第一定理78

4-5　没有加以推广的编码80

4-6　找出二元紧致讯码—哈夫曼讯码82

4-7　完成证明87

4-8r元紧致讯码89

4-9　编码效率与冗余91

第五章　频道与共同资讯100

5-1　绪论100

5-2　资讯频道101

5-3　一条频道中的机率关系104

5-4　事前与事後熵107

5-5　夏农第一定理的一般化109

5-6　共同资讯113

5-7　共同资讯的性质115

5-8无噪音频道与确定频道120

5-9 接续频道123

5-10　简化的频道与充分简化128

5-11　共同资讯的可加性133

5-12　许多个字母集的共同资讯138

5-13　频道容量142

5-14　条件共同资讯146

第六章　经由不可靠频道而传送的可靠讯息161

6-1绪论161

6-2 错误机率与决策规则162

6-3 范诺界限值167

6-4 可靠的讯息与不可靠的频道169

6-5 一个校正错误的编码例子173

6-6 韩明距离177

6-7 BSC情况下的夏农第二定理—第一步179

6-8 随机编码—第二步184

6-9 夏农的第二定理—讨论187

6-10　夏农的？定理—一般情况190

6-11　结语197

附录200

参考书目204

索引208