《非线性最优化方法》

前言1

第一章 引论1

1.1 最优化问题的提法与分类1

1.2 一些预备知识2

习题13

参考文献14

第二章 无约束最优化方法的一般结构15

2.1 最优性条件15

2.2 迭代算法的收敛性18

2.3 下降算法21

2.4 下降算法的全局收敛性定理26

2.5 搜索方向的进一步讨论32

2.6 确定搜索步长的方法47

习题65

参考文献67

第三章 牛顿法及其改进68

3.1 牛顿法68

3.2 带保护的牛顿法74

3.3 Gill-Murray稳定牛顿法76

3.4 信赖域方法(Trust region methods)或限制步长法86

3.5 子问题的求解95

习题99

3.6 Levenberg-Marquardt-Goldfeld-Quandt-Trotter(LMGQT)方法99

参考文献100

第四章 变尺度法101

4.1 Broyden族拟牛顿法102

4.2 拟牛顿法的实现112

4.3 Huagn族变尺度法119

4.4 拟牛顿法的收敛性128

习题160

参考文献163

5.1 对二次凸函数的共轭梯度法165

第五章 共轭梯度法165

5.2 对非二次函数的共轭梯度法169

5.3 重新开始的共轭梯度法180

习题183

参考文献186

第六章 非线性最小二乘问题187

6.1 小余量算法189

6.2 大余量算法203

习题209

参考文献211

7.1 Farkas 引理213

第七章 约束最优化问题的最优性条件213

7.2 一阶最优性条件217

7.3 二阶最优性条件226

7.4 两种简单的约束规范231

7.5 凸规划问题234

7.6 凸规划的对偶理论236

7.7 鞍点定理240

习题244

参考文献246

8.1 二次规划与线性互补问题247

第八章 二次规划247

8.2 有效集方法261

8.3 二次规划解的稳定性283

习题284

参考文献286

第九章 罚函数法287

9.1 外罚函数法288

9.2 内罚函数法与混合罚函数法301

9.3 乘子法309

9.4 精确罚函数法332

习题343

参考文献345

10.1 方法的提出346

第十章 约束变尺度法346

10.2 效益函数与全局收敛性350

10.3 Wilson-Han powell算法358

10.4 WHP算法的循环362

10.5 Maratos 效应与Warchdog技术365

10.6 约束变尺度法的超线性收敛条件370

10.7 Watchdog技术与超线性收敛379

10.8 若干改进与有关的工作388

参考文献402

习题402

第十一章 可行方向法405

11.1 可行方向的一般性质405

11.2 Zoutendijk可行方向法412

11.3 Topkis-Veinott可行方向法424

11.4 投影梯度法427

11.5 简约梯度法440

习题449

参考文献451

附录 不可微优化问题计算方法简介453