《神经网络理论及应用》

1 绪论1

1.1 神经网络的发展历史1

1.2 神经网络与人工智能计算机3

1.3 神经网络的研究内容与研究方法5

2 神经网络的生物基础8

2.1 神经网络的生理基础8

2.1.1 神经元的结构和功能8

2.1.2 神经元的基本特征和作用原理10

2.1.3 神经元的抽象模型11

2.2 神经网络的基本特征14

3 神经网络Lyapunov能量函数的建立17

3.1 神经网络动力学系统的描述17

3.1.1 系统和系统模型17

3.1.2 平衡状态和扰动方程20

3.2 Lyapunov稳定理论及应用21

3.2.1 Lyapunov方法21

3.2.2 Lyapunov理论在线性系统中的应用24

3.2.3 Lyapunov方法在非线性系统中的应用28

3.3 Lyapunov函数的构造方法29

3.3.1 克拉索夫斯基方法29

3.3.2 变量梯度法31

3.4 神经网络中Lyapunov函数的构造举例33

4 神经网络基本模型37

4.1 神经网络的基础理论37

4.1.1 MP模型37

4.1.2 延时与改进的MP模型38

4.1.3 Hebb学习规则39

4.1.4 作为梯度下降方法的Delta规则40

4.2 前向神经网络41

4.2.1 祖母细胞41

4.2.2 自适应线性元件（ACALINE）42

4.2.3 BP算法46

4.3 后向反馈神经网络51

4.3.1 Grossberg学习规则51

4.3.2 Kohonen模型54

4.3.3 Hopfield模型58

5 BP算法及其应用62

5.1 BP算法62

5.1.1 BP算法62

5.1.2 BP算法的应用67

5.2 改进的BP算法（Ⅰ）70

5.2.1 改进的BP算法70

5.2.2 改进的BP算法用于手写数字识别73

5.2.3 改进的BP网络讨论77

5.3 改进的BP算法（Ⅱ）80

5.3.1 学习算法80

5.3.2 算法实际应用举例83

5.4 改进的BP算法（Ⅲ）87

5.4.1 前推选择算法88

5.4.2 在控制系统故障诊断中的应用89

6 神经网络理论应用92

6.1 多资源均衡问题的神经网络方法92

6.1.1 原理92

6.1.2 设计举例96

6.2 VLSI单元布局优化问题97

6.2.1 神经网络实现VLSI布局设计优化的基本思想98

6.2.2 VLSI设计布局优化的神经网络算法99

6.2.3 关于VLSI单元布局优化算法的实现103

6.3 五位A/D转换器108

7 神经网络应用开发方法学与神经网络计算机116

7.1 神经网络应用开发方法学的目标与概念116

7.1.1 开发方法学的目标116

7.1.2 开发方法学的概念117

7.2 神经网络的设计方法121

7.2.1 节点级设计121

7.2.2 网络级设计122

7.2.3 训练级设计124

7.3 神经网络的实现与维护126

7.3.1 实现阶段126

7.3.2 维护阶段130

7.4 神经网络计算机132

7.4.1 神经网络计算机的实现132

7.4.2 直接基于硬件的神经网络计算机的实现133

7.4.3 基于现代数字计算机的神经网络计算机的实现134

8 细胞神经网络理论139

8.1 细胞神经网络的理论基础139

8.2 细胞神经网络理论140

8.2.1 细胞神经网络的网状结构140

8.2.2 细胞神经网络的动态范围143

8.2.3 细胞神经网络的稳定性145

8.2.4 多层细胞神经网络148

8.3 单细胞电路的硬件实现150

8.3.1 硬件电路实现150

8.3.2 测试结果及分析153

8.4 神经网络Hopfield模型与细胞神经网络的比较154

9 细胞神经网络理论应用156

9.1 细胞神经网络应用于图像处理156

9.2 细胞神经网络应用于图像处理实例159

9.3 连通片检测器的计算机模拟161

9.4 连通片检测器的硬件实现163

9.5 字符识别的计算机模拟164

参考文献168