《深度学习快速实践：基于TENSORFLOW和KERAS的深度神经网络优化与训练》求取 ⇩

第1章深度学习的构建模块1

1.1深度神经网络的架构1

1.1.1 神经元1

1.1.2 深度学习中的代价函数和成本函数4

1.1.3 前向传播过程5

1.1.4 反向传播函数5

1.1.5 随机和小批量梯度下降6

1.2深度学习的优化算法6

1.2.1 采用具有动量的梯度下降6

1.2.2 RMSProp算法7

1.2.3 Adam优化器7

1.3深度学习平台架构7

1.3.1 什么是TensorFlow？7

1.3.2 什么是Keras？8

1.3.3 TensorFlow的热门替代品8

1.3.4 TensorFlow和Keras对GPU的要求8

1.3.5 安装Nvidia CUDA Toolkit和cuDNN9

1.3.6 安装Python10

1.3.7 安装TensorFlow和Keras11

1.4深度学习数据集的构建12

1.4.1 深度学习中的偏差和方差误差13

1.4.2 train、val和test数据集13

1.4.3 深度神经网络中的偏差和方差管理14

1.4.4 K-Fold交叉验证14

1.5 小结15

第2章用深度学习解决回归问题16

2.1回归分析和深度神经网络16

2.1.1 使用神经网络进行回归的好处16

2.1.2 使用神经网络进行回归时需要注意的问题17

2.2使用深度神经网络进行回归17

2.2.1 如何规划机器学习问题17

2.2.2 定义示例问题17

2.2.3 加载数据集18

2.2.4 定义成本函数19

2.3在Keras中建立MLP19

2.3.1 输入层的构形20

2.3.2 隐藏层的构形20

2.3.3 输出层的构形20

2.3.4 神经网络的架构20

2.3.5 训练Keras模型21

2.3.6 评测模型的性能22

2.4在Keras中建立深度神经网络22

2.4.1 评测深度神经网络的性能24

2.4.2 模型超参数的调优25

2.5 保存并加载经过训练的Keras模型25

2.6 小结25

第3章用TensorBoard监控网络训练27

3.1 TensorBoard的概述27

3.2设置TensorBoard27

3.2.1 安装TensorBoard28

3.2.2 TensorBoard如何与KerasTensorFlow会话28

3.2.3 运行TensorBoard28

3.3将Keras连接到TensorBoard29

3.3.1 Keras回调简介29

3.3.2 创建TensorBoard回调函数29

3.4使用TensorBoard31

3.4.1 网络训练的可视化31

3.4.2 网络结构的可视化32

3.4.3 网络破碎的可视化32

3.5 小结33

第4章用深度学习解决二元分类问题34

4.1二元分类和深度神经网络34

4.1.1 深度神经网络的优点34

4.1.2 深度神经网络的缺点35

4.2案例研究——癫痫发作识别35

4.2.1 定义数据集35

4.2.2 加载数据35

4.2.3 模型的输入和输出36

4.2.4 成本函数36

4.2.5 性能评估所采用的度量指标37

4.3在Keras中构建二元分类器37

4.3.1 输入层38

4.3.2 隐藏层38

4.3.3 输出层39

4.3.4 网络层的合并39

4.3.5 训练模型40

4.4 使用Keras中的检查点回调函数40

4.5 在自定义回调函数中测量ROC AUC41

4.6 精度、召回率和f1积分的测量42

4.7 小结43

第5章用Keras解决多元分类问题44

5.1多元分类和深度神经网络44

5.1.1 优势44

5.1.2 缺点45

5.2案例研究——手写数字的分类45

5.2.1 问题定义45

5.2.2 模型的输入和输出45

5.2.3 成本函数46

5.2.4 度量46

5.3在Keras中构建多元分类器47

5.3.1 加载MNIST47

5.3.2 输入层47

5.3.3 隐藏层47

5.3.4 输出层48

5.3.5 网络的总体结构49

5.3.6 训练49

5.3.7 多类模型中scikit-learn度量指标的应用50

5.4 通过Dropout进行方差控制51

5.5 采用正则化进行方差控制54

5.6 小结55

第6章超参数的优化56

6.1网络体系结构应该被视为超参数吗？56

6.1.1 站在巨人的肩膀上56

6.1.2 添加至过度拟合，然后进行正则化57

6.1.3 实用建议57

6.2 应该优化哪些超参数？57

6.3超参数优化策略58

6.3.1 常用的策略58

6.3.2 通过scikit-learn使用随机搜索59

6.3.3 Hyperband60

6.4 小结62

第7章从头开始训练CNN63

7.1卷积的引入63

7.1.1 卷积层的工作原理64

7.1.2 卷积层的好处65

7.1.3 汇聚层66

7.1.4 批量规格化67

7.2在Keras中训练卷积神经网络67

7.2.1 输入67

7.2.2 输出67

7.2.3 成本函数和度量指标67

7.2.4 卷积层68

7.2.5 全相连层68

7.2.6 Keras中的多GPU模型69

7.2.7 训练69

7.3使用数据扩增70

7.3.1 Keras中的图像数据扩增器（ImageDataGenerator类）71

7.3.2 具有数据扩增的训练72

7.4 小结72

第8章使用预训练CNN进行迁移学习73

8.1 迁移学习概述73

8.2何时使用迁移学习74

8.2.1 有限的数据74

8.2.2 公共问题域74

8.3源／目标量和相似度的影响75

8.3.1 更多的数据总是有益的75

8.3.2 源／目标域的相似度75

8.4在Keras中进行迁移学习75

8.4.1 目标域概述76

8.4.2 源域概述76

8.4.3 源网络体系结构76

8.4.4 网络体系结构的迁移77

8.4.5 数据准备77

8.4.6 数据输入78

8.4.7 训练（特征提取）78

8.4.8 训练（调优）80

8.5 小结81

第9章从头开始训练RNN82

9.1递归神经网络概述82

9.1.1 如何让神经元进行递归？83

9.1.2 长短时间记忆网络84

9.1.3 在时间上的反向传播86

9.2重温时间序列问题86

9.2.1 存量和流量87

9.2.2 ARIMA和ARIMAX预测87

9.3使用LSTM网络进行时间序列预测88

9.3.1 数据准备89

9.3.2 网络输出92

9.3.3 网络体系结构93

9.3.4 stateful与stateless LSTM网络93

9.3.5 训练93

9.3.6 测量性能94

9.4 小结96

第10章从头开始训练具有单词嵌入的LSTM网络97

10.1自然语言处理简介97

10.1.1 语义分析98

10.1.2 文档分类98

10.2文本的矢量化99

10.2.1 NLP术语99

10.2.2 Bag of Word模型99

10.2.3 词干化、词形归并和停止词100

10.2.4 计数和TF-IDF矢量化100

10.3单词嵌入101

10.3.1 一个简单的例子102

10.3.2 通过预测进行的单词嵌入学习102

10.3.3 通过计数进行的单词嵌入学习104

10.3.4 从单词到文档104

10.4 Keras嵌入层105

10.5 用于自然语言处理的1D CNN105

10.6文档分类的案例研究106

10.6.1 使用Keras嵌入层和LSTM网络进行情感分析106

10.6.2 使用和不使用GloVe的文档分类110

10.7 小结117

第11章训练sequence-to-sequence模型118

11.1sequence-to-sequence模型118

11.1.1 sequence-to-sequence模型的应用118

11.1.2 sequence-to-sequence模型的体系结构119

11.1.3 字符与单词120

11.1.4 Teacher forcing120

11.1.5 Attention121

11.1.6 翻译的度量121

11.2机器翻译121

11.2.1 了解数据集122

11.2.2 加载数据122

11.2.3 one hot编码124

11.2.4 训练网络体系结构125

11.2.5 网络体系结构（用于推理）126

11.2.6 体系结构的合并127

11.2.7 训练128

11.2.8 推理129

11.3 小结133

第12章使用深度强化学习134

12.1强化学习概述134

12.1.1 Markov决策过程135

12.1.2 Q-learning136

12.1.3 无限状态空间136

12.1.4 Deep Q网络137

12.1.5 守成与探索138

12.1.6 DeepMind138

12.2Keras的强化学习平台架构139

12.2.1 安装Keras-RL139

12.2.2 安装OpenAI gym139

12.2.3 使用OpenAI gym139

12.3在Keras中构建一个强化学习智能体140

12.3.1 CartPole140

12.3.2 月球着陆器143

12.4 小结145

第13章生成对抗网络146

13.1 GAN的概述146

13.2深度卷积GAN的体系结构147

13.2.1 对抗训练体系结构147

13.2.2 生成器的体系结构148

13.2.3 鉴别器的体系结构149

13.2.4 堆训练149

13.3GAN如何失效151

13.3.1 稳定性151

13.3.2 模式塌缩151

13.4 GAN的安全选择151

13.5使用Keras GAN进行的MNIST图像生成152

13.5.1 加载数据集152

13.5.2 构建生成器153

13.5.3 构建鉴别器153

13.5.4 堆叠模型的构建154

13.5.5 训练循环155

13.5.6 模型评估157

13.6使用Keras GAN进行CIFAR-10图像的生成160

13.6.1 加载CIFAR-10160

13.6.2 构建生成器160

13.6.3 构建鉴别器161

13.6.4 训练循环161

13.6.5 模型评估161

13.7 小结162