| 【中文题名】 | 一类大规模最优化问题的并行BFGS算法 |
| 【英文题名】 | Parallel BFGS Algorithm for a Class of Large Scale Optimization Problem |
| 【学科专业】 | 概率论与数理统计 |
| 【论文级别】 | 硕士论文 |
| 【投稿时间】 | 2006-9-20 |
| 【中关键词】 | BFGS拟牛顿法,重叠块,无约束最优化问题,大规模问题,, |
| 【英关键词】 | BFGS quasi-Newton method,overlap,unconstrained optimization problem,large scale problem, |
| 【分类导航】 | 数理科学和化学>数学>运筹学>规划论（数学规划）>> |
| 【论文摘要】 |
在求解无约束最优化问题的众多算法中,拟牛顿法是颇受欢迎的一类算法.尤其是用于求解中小规模问题时该类算法具有较好的数值效果. BFGS算法被认为是数值效果最好的拟牛顿法,其收敛理论的研究也取得了很好的成果.在一定的条件下,BFGS算法具有全局收敛性和超线性收敛速度.然而,对于大规模最优化问题来求解,包括BFGS算法在内拟牛顿法具有明显的缺陷.其主要问题之一在于拟牛顿法产生的矩阵不能保持目标函数f ( x )的Hessian阵的稀疏性.有许多的例子表明,一旦处理问题很大时,一些对小规模问题非常成功的算法变得毫无吸引力.究其原因,主要是由于在中小型问题一些不太重要的因素在求解大规模问题时,变得代价很高.
随着速度更快及更复杂的计算机的出现,增强了我们的计算处理能力.同时也为我们设计算法带来了新的课题.并行计算机的发展为求解大规模最优化问题提供了一条新途径.对求解中小规模问题中数值效果好的算法并行化以用于大规模问题的求解受到了广泛欢迎.
本文在求解非线性方程组的并行Broyden算法的基础上,提出一种求解无约束最优化问题的并行BFGS算法.算法的基本思想是把原问题分解成若干个具有重叠性质的小... |
| 【论文题纲】 |
|
摘要 |
5-6 |
|
Abstract |
6-8 |
|
第1章 引言 |
8-19 |
|
1.1 优化问题 |
8-10 |
|
1.2 BFGS 算法及修正形式 |
10-12 |
|
1.3 大规模问题 |
12-15 |
|
1.4 L-BFGS 算法 |
15-19 |
|
第2章 最优化的并行计算 |
19-30 |
|
2.1 并行计算的目的和意义 |
19 |
|
2.2 按变量分裂的并行计算 |
19-23 |
|
2.3 函数值、梯度值的并行计算 |
23-26 |
|
2.4 计算步骤的并行计算 |
26-30 |
|
第3章 应用重叠块的并行算法 |
30-36 |
|
3.1 问题和记号说明 |
30-31 |
|
3.2 重叠块算法的构思和步骤 |
31-32 |
|
3.3 局部收敛性 |
32-36 |
|
第4章 数值实验 |
36-43 |
|
结论 |
43-44 |
|
参考文献 |
44-48 |
|
附录 A(攻读学位期间所发表的学术论文目录) |
48-49 |
|
致谢 |
49 |
|
| 【DOI】 | LunWen.ID:2.2008.14657 |
