《最优化理论与方法》求取 ⇩

第一章 引论1

1.1 引言1

1.2 数学基础2

1.3 凸集和凸函数26

1.3 无约束问题的最优性条件46

1.5 最优化方法的结构50

第二章 一维搜索56

2.1 引言56

2.2 精确一维搜索的收敛理论59

2.3 0.618法和Fibonacci法69

2.4 插值法75

2.5 不精确一维搜索方法94

第三章 牛顿法108

3.1 最速下降法108

3.2 牛顿法121

3.3 修正牛顿法126

3.4 有限差分牛顿法131

3.5 负曲率方向法135

3.6 信赖域方法154

3.7 不精确牛顿法166

3.8 附录：关于牛顿法收敛性的Kantorovich定理172

4.1 共轭方向法183

第四章 共轭梯度法183

4.2 共轭梯度法186

4.3 共轭梯度法的收敛性199

第五章 拟牛顿法219

5.1 拟牛顿法219

5.2 Broyden族241

5.3 Huang族248

5.4 算法的不变性259

5.5 拟牛顿法的局部收敛性263

5.6 拟牛顿法的总体收敛性293

5.7 自调比变尺度方法307

5.8 稀疏拟牛顿法330

第六章 非二次模型最优化方法340

6.1 齐次函数模型的最优化方法340

6.2 张量方法344

6.3 锥模型与共线调比359

第七章 非线性最小二乘问题373

7.1 非线性最小二乘问题373

7.2 Gauss-Newton法375

7.3 Levenberg-Marquardt方法382

7.4 Levenberg-Marquardt方法的Moré形式391

7.5 拟牛顿法399

第八章 约束优化最优性条件404

8.1 约束优化问题404

8.2 一阶最优性条件406

8.3 二阶最优性条件417

第9章 二次规划422

9.1 二次规划问题422

9.2 对偶性质426

9.3 等式约束问题431

9.4 积极集法438

9.5 对偶方法444

9.6 内点算法451

第十章 罚函数法455

10.1 罚函数455

10.2 简单罚函数法460

10.3 内点罚函数467

10.4 乘子罚函数474

10.5 光滑精确罚函数479

10.6 非光滑精确罚函数482

第十一章 可行方向法491

11.1 可行点法491

11.2 广义消去法501

11.3 广义既约梯度法508

11.4 投影梯度法511

11.5 线性约束问题514

12.1 Lagrange-Newton法521

第十二章 逐步二次规划法521

12.2 Wilson-Han-Powell方法528

12.3 SQP步的超线性收敛性535

12.4 Marotos效应539

12.5 Watchdog技术541

12.6 二阶校正步543

12.7 光滑价值函数549

12.8 既约Hesse阵方法553

第十三章 信赖域法559

13.1 算法的基本形式559

13.2 线性约束问题的信赖域法569

13.3 信赖域子问题574

13.4 零空间方法578

13.5 CDT子问题584

13.6 Powell-Yuan方法589

第十四章 非光滑优化599

14.1 广义梯度599

14.2 非光滑优化问题605

14.3 次梯度方法608

14.4 割平面法615

14.5 捆集法616

14.6 复合非光滑优化的基本性质619

14.7 信赖域法622

参考文献628