《广义信息论》

第一章引论1

1.1 背景1

1.2 熵的历史回顾4

1.3 Shannon 信息论的诞生6

1.4 广义信息论溯源7

1.5 信息和熵的范畴及本书讨论范围10

1.6 信息的本质——被反映的特殊性11

参考文献13

2.1 基于频率解释的概率论16

第二章Shannon 信息论述评16

2.2 经典通信模型18

2.3 经典信息量公式和 Kullback 信息公式19

2.4 Shannon 互信息公式21

2.5 连续信源的熵和交互熵22

2.6 信道容量和信道编码23

2.7 Shannon 熵的编码意义25

2.8 限失真编码和信息率失真论26

2.9 Shannon 信息论的局限性30

参考文献33

3.1 集合 Bayes 公式 随机集落影34

第三章广义信息论的数学基础34

3.2 客观概率 主观概率 逻辑概率35

3.3 预测熵及其性质38

3.4 映射 集合划分 Shannon 熵39

3.5 广义映射 集合覆盖 广义熵40

3.6 相似关系 相似度 不相似熵43

3.7 预测熵和广义熵的编码意义44

3.8 模糊映射 模糊相似关系 广义交互熵46

3.9 隶属度确定 模糊分辨率函数50

参考文献53

3.10 隶属度的柏拉图解释53

第四章广义通信模型和广义信息测度55

4.1 广义通信模型和 Popper 的科学进化论55

4.2 信源和信道可变时的概率预测信息59

4.3 单个事件之间的广义信息量公式62

4.4 广义 Kullback 信息公式及最佳预言选择65

4.5 广义互信息公式及其性质66

4.6 模式识别和天气预报的信息评价68

4.7 广义自信息 连续信源和信宿的广义互信息73

4.8 自然语言通信的优点74

4.9 由广义信息测度得出的科学理论进步标准75

参考文献76

5.1 信源预测无失真编码定理78

第五章通信优化78

5.2 用广义信息准则代替预测的均方误差准则79

5.3 检测和估计的广义信息准则82

5.4 广义信道容量85

5.5 限误差信息率及其和信息率失真的关系86

5.6 保质信息率论——信息率失真论改造89

5.7 具有相似关系的二元信源保质信息率函数91

5.8 保质信息率和信源量化等级及主观分辨率的关系93

5.9 图象视觉信息及通信优化96

5.10 信息价值 保价值信息率97

参考文献99

第六章信息和统计100

6.1 信息和 Boltzmann 熵的关系100

6.2 最大熵原理和限误差信息率的关系102

6.3 量子统计物理熵的 Shannon 信息论解释103

6.4 建立在相似关系上的物理学熵公式105

6.5 有序性 多样性 生物学统计106

6.6 互信息减少定律——熵增大定律修正110

参考文献111

第七章信息 控制 生产113

7.1 控制和通信的异同113

7.2 熵 H(X)的开关控制意义116

7.3 理想的集合表示及限误差信息率的控制论意义117

7.4 信道容量和保质信息率的控制论推广118

7.5 自由能公式 信息价值公式 生产价值公式120

7.6 局域平衡自由能公式和投入产出价值公式类比122

7.7 Maxwell 妖的剩余价值解释124

参考文献125

第八章信息论 进化论 哲学126

8.1 关于另一种目的的哲学126

8.2 崇高感和美感的信息论控制论意义129

8.3 从信息论的角度看色觉机制的进化130

8.4 颠倒色觉的逻辑可能性和感觉相对论132

8.5 反映论改造134

8.6 有待进一步研究的问题136

参考文献138

附录论文140

B 模糊集合代数及其用于语义信息和颜色视觉140

译码模型：一个对称的色觉机制模型151

试析达尔文留下的香甜美难题——历史唯物主义原理的生物学推广165

论美是促进喜爱情绪的反馈信号171

色觉所反映的客观内容究竟是什么?180

由颠倒色觉的逻辑可能性澄清实指定义189

后记194