《深入浅出 工业机器学习算法详解与实战》求取 ⇩

第1章概述1

1.1机器学习基本流程1

1.2业界常用算法2

1.3构建机器学习系统3

第2章统计学5

2.1概率分布5

2.1.1期望与方差5

2.1.2概率密度函数7

2.1.3累积分布函数10

2.2极大似然估计与贝叶斯估计11

2.2.1极大似然估计11

2.2.2贝叶斯估计13

2.2.3共轭先验与平滑的关系15

2.3置信区间15

2.3.1t分布16

2.3.2区间估计17

2.3.3 Wilson置信区间19

2.4相关性20

2.4.1数值变量的相关性20

2.4.2分类变量的相关性22

2.4.3顺序变量的相关性27

2.4.4分布之间的距离28

第3章矩阵30

3.1矩阵的物理意义30

3.1.1矩阵是什么30

3.1.2矩阵的行列式31

3.1.3矩阵的逆32

3.1.4特征值和特征向量32

3.2矩阵的数值稳定性33

3.2.1矩阵数值稳定性的度量33

3.2.2基于列主元的高斯-约当消元法33

3.2.3岭回归38

3.3矩阵分解38

3.3.1特征值分解与奇异值分解39

3.3.2高维稀疏矩阵的特征值分解40

3.3.3基于矩阵分解的推荐算法45

3.4矩阵编程实践46

3.4.1numpy数组运算46

3.4.2稀疏矩阵的压缩方法50

3.4.3用MapReduce实现矩阵乘法52

第4章优化方法54

4.1无约束优化方法54

4.1.1梯度下降法54

4.1.2拟牛顿法56

4.2带约束优化方法58

4.3在线学习方法61

4.3.1随机梯度下降法61

4.3.2FTRL算法63

4.4深度学习中的优化方法70

4.4.1动量法70

4.4.2AdaGrad71

4.4.3 RMSprop71

4.4.4 Adadelta71

4.4.5 Adam72

4.5期望最大化算法72

4.5.1Jensen不等式73

4.5.2期望最大化算法分析73

4.5.3高斯混合模型77

第5章线性模型79

5.1广义线性模型79

5.1.1指数族分布79

5.1.2广义线性模型的特例80

5.2逻辑回归模型83

5.3分解机制模型84

5.3.1特征组合84

5.3.2分解机制86

5.3.3分解机制模型构造新特征的思路87

5.4基于域感知的分解机制模型88

5.5算法实验对比95

第6章概率图模型98

6.1隐马尔可夫模型98

6.1.1模型介绍98

6.1.2模型训练101

6.1.3模型预测102

6.2条件随机场模型103

6.2.1条件随机场模型及特征函数103

6.2.2向前变量和向后变量107

6.2.3模型训练110

6.2.4模型预测111

6.2.5条件随机场模型与隐马尔可夫模型的对比112

第7章文本向量化113

7.1词向量113

7.1.1word2vec113

7.1.2 fastText117

7.1.3 GloVe118

7.1.4算法实验对比120

7.2文档向量121

7.2.1Paragraph Vector121

7.2.2 LDA123

第8章树模型130

8.1决策树130

8.1.1分类树131

8.1.2回归树134

8.1.3剪枝137

8.2随机森林139

8.3 AdaBoost140

8.4 XGBoost141

8.5LightGBM146

8.5.1基于梯度的单边采样算法147

8.5.2互斥特征捆绑147

8.5.3 Leaf-Wise生长策略148

8.5.4 DART149

8.6算法实验对比150

第9章深度学习154

9.1神经网络概述154

9.1.1网络模型154

9.1.2反向传播157

9.1.3损失函数158

9.1.4过拟合问题159

9.1.5梯度消失161

9.1.6参数初始化161

9.2卷积神经网络162

9.2.1卷积162

9.2.2池化165

9.2.3CNN网络结构165

9.2.4 textCNN167

9.3循环神经网络168

9.3.1RNN通用架构168

9.3.2 RNN的学习问题170

9.3.3门控循环单元172

9.3.4 LSTM174

9.3.5 seq2seq177

9.4注意力机制179

第10章Keras编程182

10.1快速上手182

10.2Keras层184

10.2.1 Keras内置层184

10.2.2自定义层191

10.3调试技巧194

10.3.1查看中间层的输出194

10.3.2回调函数195

10.4CNN和RNN的实现198

第11章推荐系统实战203

11.1问题建模203

11.2数据预处理206

11.2.1归一化206

11.2.2特征哈希208

11.3模型探索210

11.3.1基于共现的模型210

11.3.2图模型211

11.3.3DeepFM214

11.3.4 DCN219

11.4推荐服务221

11.4.1远程过程调用简介221

11.4.2gRPC的使用223

11.4.3服务发现与负载均衡226

第12章收集训练数据229

12.1日志的设计229

12.2日志的传输231

12.3日志的合并238

12.4样本的存储248

第13章分布式训练250

13.1参数服务器250

13.2基于PS的优化算法256

13.3在线学习259

第14章A/B测试261

14.1实验分组261

14.2指标监控266

14.2.1指标的计算266

14.2.2指标的上报与存储267

14.2.3指标的展现与监控269

14.3实验结果分析272