《深度学习》求取 ⇩

第1章绪论1

1.1 引言1

1.2 基本术语2

1.3监督学习算法6

1.3.1 支持向量机6

1.3.2 决策树9

1.4无监督学习算法11

1.4.1 主成分分析11

1.4.2 K-均值聚类15

1.5 机器学习16

1.6深度学习的趋势21

1.6.1 与日俱增的数据量21

1.6.2 愈发庞大的计算资源22

1.6.3 越来越高的性能以及解决实际问题的潜力23

思考题23

参考文献24

第2章TensorFlow和Keras简介27

2.1TensorFlow简介27

2.1.1 概述27

2.1.2 TensorFlow的使用29

2.1.3 TensorFlow的可视化32

2.2Keras简介36

2.2.1 Keras概述36

2.2.2 Keras的使用37

2.2.3 Keras的可视化38

思考题39

参考文献39

第3章简单神经网络40

3.1 人脑是如何学习的40

3.2 模仿人脑——神经元（感知器）42

3.3 非线性神经元44

3.4 神经网络架构47

3.5梯度下降49

3.5.1 代价函数49

3.5.2 梯度下降50

3.6反向传播53

3.6.1 多层神经网络的数学表示53

3.6.2 反向传播算法原理54

3.7 实现简单神经网络56

思考题62

参考文献63

第4章图像类数据处理65

4.1二维卷积神经网络的基本原理65

4.1.1 卷积神经网络的原理66

4.1.2 参数共享69

4.1.3 池化72

4.1.4 分类原理75

4.2 简单卷积神经网络实例78

4.3过度拟合86

4.3.1 容量、过拟合与欠拟合的基本概念86

4.3.2 数据集增强88

4.3.3 L2正则化89

4.3.4 L1正则化93

4.3.5 Dropout95

4.3.6 提前终止99

4.4时间优化104

4.4.1 交叉熵代价函数104

4.4.2 批标准化108

4.4.3 随机梯度下降110

4.4.4 动量112

4.4.5 Nesterov动量116

4.5 综合二维卷积神经网络实例116

思考题121

参考文献123

第5章序列类数据处理127

5.1一维卷积神经网络127

5.1.1 一维卷积神经网络的原理127

5.1.2 一维卷积神经网络实例129

5.2循环神经网络134

5.2.1 循环神经网络的基本原理135

5.2.2 循环神经网络的输出141

5.2.3 上下文依赖型数据处理145

5.2.4 序列到序列的数据处理147

5.3递归神经网络150

5.3.1 递归神经网络的基本原理150

5.3.2 长期依赖性151

5.4长短期记忆LSTM网络155

5.4.1 长短期记忆网络的基本原理155

5.4.2 长短期记忆网络工程实例159

思考题169

参考文献170

第6章深度学习模型优化175

6.1 参数初始化175

6.2超参数寻优算法179

6.2.1 手动超参数寻优179

6.2.2 超参数寻优算法181

6.3基于梯度的自适应学习算法183

6.3.1 AdaGrad算法183

6.3.2 RMSProp算法184

6.3.3 Adam算法185

6.4 生成对抗神经网络及实例187

6.5 迁移学习及实例198

6.6 强化学习215

6.7模型优化的局限性227

6.7.1 局部极小值227

6.7.2 梯度消失、梯度爆炸与悬崖228

6.7.3 鞍点232

6.7.4 长期依赖233

6.7.5 梯度的非精确性234

思考题234

参考文献236

第7章数据和模型的处理与调试239

7.1 模型评价239

7.2 数据预处理241

7.3 基础模型的选择246

7.4 模型调试248

思考题250

参考文献251

第8章现代深度学习模型概述253

8.1玻尔兹曼机253

8.1.1 标准玻尔兹曼机253

8.1.2 受限玻尔兹曼机255

8.1.3 深层玻尔兹曼机258

8.2自编码器262

8.2.1 标准自编码器262

8.2.2 稀疏自编码器264

8.2.3 降噪自编码器266

8.3 深度信念网络及实例269

8.4 残差神经网络及实例278

8.5 胶囊神经网络及实例286

思考题294

参考文献295

附录298

附录A基于深度学习的视频目标跟踪研究进展综述298

附录B Q-Learning算法的参考代码309