《神经网络理论与应用》求取 ⇩

目录1

前言1

第一章 绪论1

§1.1 概述1

§1.1.1 神经元3

§1.1.2 并行处理7

§1.2 神经网络的研究简史9

§1.3 神经网络的概念、定义与基本组成15

§1.4 神经网络的研究范畴19

§1.5 神经网络模型的一些研究方法26

第二章 联想记忆的基本原理33

§2.1 线性联想映射35

§2.1.1 Kohonen模型36

§2.1.2 利用最佳秩r-逼近的线性联想记忆41

§2.1.3 最小平方联想记忆43

§2.2 Hopfield联想记忆模型44

§2.2.1 Hopfield模型连接权的确定45

§2.2.2 Hopfield模型的存贮容量50

§2.2.3 Hopfield联想记忆模型的匹配滤波器实现55

§2.3 Hopfield模型中的一些稳定性问题60

§2.3.1 稳定性和吸引性的概念60

§2.3.2 能量函数64

§2.3.3 保证稳定性的几个充分条件67

§2.4 Hopfield模型的一些变形与推广70

§2.4.1 Hopfield模型的几种变形71

§2.4.2 非正交模式76

§2.4.3 连续值单元80

§2.4.4 模式的时态序列87

第三章 联想记忆与模式识别的实用模型93

§3.1 引入三态隐单元的Hopfield模型93

§3.1.1 能量函数峰值的正交性95

§3.1.2 样本存贮过程96

§3.1.3 样本恢复过程98

§3.2 Kanerva稀疏分布式联想记忆100

§3.3 指数响应单元网络（ECAM）106

§3.4 分形神经网络（FNN）113

§3.4.1 网络结构114

§3.4.2 信息的存贮和检索114

§3.5 交替投影神经网络（APNN）118

§3.6 元胞神经网络（CNN）123

§3.7 双向联想记忆（BAM）模型130

§3.7.1 BAM的结构131

§3.7.2 简单BAM模型的性能分析135

§3.7.3 BAM的应用实例139

§3.8 BAM模型的改进143

§3.8.1 BAM的多重训练算法143

§3.8.2 具有指数容量的双向联想记忆145

第四章 优化计算的神经网络方法150

§4.1 加权匹配问题152

§4.2 旅行售货员（TSP）问题156

§4.2.1 Hopfield-Tank方法157

§4.2.2 Hopfield-Tank方法的一种改进159

§4.2.3 求解TSP的弹性网络方法161

§4.2.4 N-皇后问题163

§4.3 图划分问题166

§4.3.1 图二分问题167

§4.3.2 图划分问题169

§4.4 动态规划（DPP）问题170

§4.4.1 最优性原理170

§4.4.2 动态规划的人工神经网络172

§4.4.3 网络仿真175

§4.5 求解优化问题的马尔可夫神经网络177

§4.6 求解一般非线性优化问题的广义Hopfield网络183

§4.6.1 无约束优化问题183

§4.6.2 增广拉格朗日方法186

§4.6.3 广义缩减梯度法187

§4.6.4 逐次二次规划（SQP）188

§4.7 优化计算神经网络的应用实例191

§4.7.1 基于优化计算神经网络的模／数（A/D）转换器191

§4.7.2 图象处理中的优化问题195

第五章 感知器与Madaline的基本原理204

§5.1 基本概念205

§5.1.1 自适应线性组合器207

§5.1.2 线性分类器——单阈值元件208

§5.1.3 线性可分性210

§5.1.4 非线性分类器213

§5.2 误差校正规则217

§5.2.1 线性规则218

§5.2.2 非线性规则219

§5.2.3 感知器学习规则的几何解释222

§5.2.4 感知器学习规则的收敛性证明225

§5.2.5 Madaline网络的误差校正规则227

§5.3 线性单元与非线性单元230

§5.3.1 线性单元230

§5.3.2 非线性单元236

§5.3.3 随机单元238

§5.4 简单感知器的容量240

§5.5 Madaline网络中的最陡下降学习244

第六章 反向传播学习算法及其应用249

§6.1 反向传播算法250

§6.2 反向传播算法的修正与推广256

§6.3 多层前传网络的性能265

§6.3.1 多层前传网络的泛函能力与隐单元的必要个数266

§6.3.2 输入表示问题270

§6.3.3 推广（generalization）272

§6.3.4 学习的复杂性问题274

§6.4 关于推广的理论框架276

§6.4.1 平均推广能力277

§6.4.2 对差的推广概率的定界283

§6.5 网络结构的优化288

§6.5.1 修剪与权的衰减289

§6.5.2 网络构造算法292

§6.6 例子与应用297

第七章 径向基函数网络304

§7.1 径向基函数网络的基本原理305

§7.1.1 用于插值的径向基函数305

§7.1.2 用于模式识别的径向基函数305

§7.1.3 RBF网络309

§7.2 径向基函数网络的k-均值聚类算法312

§7.3 径向基函数网络的正交最小平方学习算法316

§7.3.1 RBF网络基函数中心选取的OLS方法317

§7.3.2 RBF网络在通信信道均衡中的应用322

§7.4 径向基函数插值的资源分配网络325

§7.5 高斯条（Gaussian bar）函数网络329

§7.6 径向基函数网络的推广332

§7.6.1 关于RBF网络推广能力的讨论332

§7.6.2 预测网络推广性质的基本方法333

§7.6.3 改善RBF网络推广性质的一种方法334

§7.7 与径向基函数类似的其它一些模式分类方法337

§7.7.1 修正的Kanerva模型337

§7.7.2 位函数法339

§7.7.3 核判别式分析339

§7.7.4 球面分级神经元网络340

§7.7.5 概率神经网络341

§7.8 径向基函数插值的正则化理论与正则化网络344

§7.8.1 正则化理论的基本概念344

§7.8.2 正则化网络346

§7.8.3 正则化方法的推广——超基函数网络348

§7.9 其他模式分类器简介350

第八章 递归神经网络354

§8.1 递归网络与递归反向传播355

§8.1.1 递归网络的基本结构355

§8.1.2 连续时间递归网络的递归反向传播算法358

§8.1.3 连续时间递归网络的时变递归反向传播算法364

§8.2 学习时间序列367

§8.2.1 时延神经网络（TD）NN）368

§8.2.2 部分递归网络371

§8.2.3 随时间演化的反向传播（BPTT）374

§8.3 递归网络的几种实时学习算法376

§8.3.1 实时递归学习（RTRL）376

§8.3.2 随时间演化反向传播的实时算法379

§8.3.3 训练递归网络的广义卡尔曼滤波算法382

§8.4 玻尔兹曼机386

§8.4.1 随机单元386

§8.4.2 Boltzmann机的一些推广391

§8.4.3 确定性Boltzmann机393

§8.5.1 所有概率分布的流形394

§8.5 玻尔兹曼机的信息几何理论简介394

§8.5.2 无隐单元的Boltzmann机400

§8.6 强化学习403

§8.6.1 联想赏-罚的基本概念405

§8.6.2 联想赏-罚理论408

§8.6.3 建模网络与评判网络411

第九章 无监督Hebb学习415

§9.1 概述415

§9.1.1 有监督学习和无监督学习的区别415

§9.1.2 无监督学习的意义417

§9.2 无监督Hebb学习的基本原理420

§9.2.1 关于线性神经元的一些结论420

§9.2.2 无监督Hebb学习的Oja规则423

§9.2.3 Oja规则的理论分析425

§9.3 主分量分析（PCA）学习算法428

§9.3.1 PCA的基本原理428

§9.3.2 主分量分析的单层前传网络432

§9.3.3 PCA学习的其它网络结构439

§9.4 PCA学习的推广443

§9.4.1 自适应主分量抽取算法443

§9.4.2 次分量抽取与最优拟合448

§9.4.3 其它与PCA有关的问题457

§9.5 模式识别的子空间学习算法简介458

§9.5.1 子空间模式识别原理458

§9.5.2 双子空间模式识别462

§9.6 自组织特征抽取464

§9.6.1 自组织多层感知器464

§9.6.2 仿真结果468

§9.6.3 最大信息传输问题470

第十章 无监督竞争学习473

§10.1 简单的竞争学习474

§10.1.1 赢者取全（WTA）的基本原理474

§10.1.2 价值函数与收敛性478

§10.2 竞争学习的例子与应用480

§10.3 自适应共振理论487

§10.3.1 稳定性-可塑性二难问题与ART的提出488

§10.3.2 ART的基本原理489

§10.3.3 ART用作分类器时的算法496

§10.3.4 ART的一种简单网络实现498

§10.4 特征映射的理论和应用500

§10.4.1 概述500

§10.4.2 特征映射的基本原理503

§10.4.3 特征映射的理论分析514

§10.5 认知机与新认知机519

§10.5.1 增广Hebb规则519

§10.5.2 认知机（The Cognition）520

§10.5.3 新认知机（Neocognition）522

§10.6 混合学习方案——后向传播网络528