上下求索探青铜之路兼容并蓄架沟通之桥 ——梅建军教授访谈录
作者：陈坤龙，梅建军
求解大规模无约束优化问题的一种新的PRP三项共轭梯度法
更新时间：2009-03-28
0 引言
考虑大规模无约束优化问题
“茅台酱香酒在这次盲评中拿到四个价格带的第一，240名评委中我们茅台的评委只有几个，还有剩下的230多个评委是其他企业的，我们的产品依然能够名列前茅，说明了茅台酱香酒的品质得到了专业人士的充分认可，我们是绝对有信心的。”把茅台酱香酒打造成为蓝海市场，茅台酱香酒人信心十足。
其中函数f∶R n→R连续可微,n∈Z+为问题的维数.当维数n很大时,问题(1)即为大规模无约束问题.非线性共轭梯度算法具有结构简单、存储量小等优点,被广泛用于问题(1)的求解[1],其迭代公式为:
x k+1=x k+αkd k,k=0,1,2,…
其中:x k是第k个迭代点,αk是搜索步长;共轭梯度搜索方向d k的计算公式为:
其中:βk是一个参数,不同的参数βk表达式对应着不同的共轭梯度法,PRP方法[1]是最知名的共轭梯度法之一,其公式如下:
至于什么时候聚，怎么聚，周教授已经安排好了，他说时间么就定在中午，地点么就到郊外，他远房侄儿周青才开不久的桃花源农庄。周教授强调说，现在正值春天，桃花源的风景很好，我们正好都做一回陶渊明么。几个电话里都说好，让周教授等着，他们都到周教授住宅小区门口集合，然后再一起去桃花源农庄。
其中:y k=g k+1-g k,g k+1=▽f(x k+1)和g k=▽f(x k),‖·‖表示欧几里得范数.
PRP方法在步长充分小时,可以自动靠近负梯度方向,从而对于问题(1)具有良好的数值结果,然而对非凸函数而言其收敛性质并不很令人满意.近来,很多学者喜欢研究三项共轭梯度公式,因为它具有良好的性质[2-5].受文献[3,5]的启发,为克服PRP方法对非凸函数不收敛的缺点,笔者给出了一个修正的PRP公式,定义为:
其中y k=g k+1-g k,c＞0.在下一节中,我们将证明新公式不仅具有充分下降性,而且具有信赖域特征.充分下降性对于收敛有帮助,信赖域性质使算法的全局收敛的证明更为容易.
本文结构如下:第1节介绍修正的PRP共轭梯度算法;第2节证明该算法对非凸函数的全局收敛性;第3节给出初步的数值试验并报告数值结果.
本文主要特点是:
其中:δ∈(0,1/2),δ1∈(0,δ),σ∈(δ,1).研究表明Y WL线搜索技术比弱Wolfe-Powell线搜索技术更具竞争力.基于此,笔者给出了一种修正PRP三项公式,采用线搜索(4)和(5),设计一种新的共轭梯度算法.
[1]向邱.品管圈活动在呼吸重症监护病房的应用与效果[J].护理管理杂志,2013,13(2):104-105.
例1：如图，抛物线y=-x2+2x+3与x轴相交于A、B两点（点A在点B的左侧），与y轴相交于点C，顶点为D。
经典的线搜索主要有弱 Wolf e-Powell线搜索、强 Wolfe-Powell线搜索、Armijo线搜索和Armijo-Gol dstein线搜索等[6-9].在此基础上,韦增欣等提出了几种新型线搜索[10-12].近来,袁功林等在文献[13]给出一个修改的弱Wolfe-Powell线搜索(简称Y WL)来计算步长αk,采用如下迭代公式:
引理1 若搜索方向d k由式(3)给出,那么以下两个性质成立:
2)证明了用于求解非凸函数的新PRP共轭梯度算法的全局收敛.
2016年1月至2017年2月,我们对66例AD患者实施分阶段延伸护理干预,取得满意效果。现报告如下。
3)数值结果表明,Y WL线搜索下的新PRP共轭梯度算法优于传统PRP方法.
“黑城”始建于西夏时期，是现今已知唯一一座用党项族语音命名的城市。蒙古语为哈日浩特，是西夏黑水城和元代亦集乃路城遗址。当年在马可·波罗游记中的亦集乃路是一座繁荣的城市。
1 修正的PRP三项共轭梯度算法及假设
修正的PRP三项共轭梯度算法简称为算法1,步骤如下:
步骤1:给定x 1 ∈R n,ε∈ (0,1),δ∈ (0,1/2),δ1 ∈ (0,δ),σ∈ (δ,1),c＞0,令k=1和d 1=-g(x);
步骤2:如果‖g k‖≤ε成立,则停止;
步骤3:通过Y WL线搜索式(4)和式(5)计算满足步长αk;
定理1 若假设A成立,如果迭代序列｛x k,αk,d k,g(x k)｝由算法1产生.那么式(9)成立.
步骤4:令x k+1=x k+αkd k;
步骤5:用式(3)计算方向d k+1;
步骤6:如果‖g k+1‖≤ε,算法停止;
步骤7:令k=k+1并转到步骤3.
Institute of Physics (IOP), Bhubaneswar is acknowledged for providing the TEM facility for characterization of the nanoparticles.
其中c*＞0,是一个常数.
i)定义的水平集L 0=｛x|f(x)≤f(x 1)｝有界.
图1显示，人民币汇率预期的一个单位标准差的正向冲击在第1期时对货物贸易跨境资金流出基本不具有影响，第2期开始对货物贸易跨境资金流出产生负面冲击，并在第4期达到最大值，随后对其跨境资金流出的负面冲击在一定区间内波动，并基本维持在负面冲击，直到第8期以后才出现正向影响，随后保持较长时间的正向冲击，第16期后转为负面影响，随后负面影响逐渐增大。由此可见，人民币汇率预期变化对货物贸易项下跨境资金流出的影响具有滞后性，在第二个季度后才开始出现负面冲击，并在滞后4个季度达到最大，在4个季度以后影响开始减弱，直到8个季度以后汇率预期的负面影响才会消失并转为正向影响，在较长时间后又转为负面冲击。
ii)目标函数f(x)有下界,且二次可微,其梯度函数g(x)Lipschitz连续,即存在L＞0,使(6)式成立.
《教育信息化十年发展规划（2011-2020年）》提出“以硬件为中心”转变到“以解决实际问题应用和促进人的发展为核心”，“通过优质数字教育资源共建共享、信息技术与教育全面深度融合、促进教育教学和管理创新，助力破解教育改革和发展的难点问题”。“微课”作为信息技术与学科整合过程中产生的新型教学模式，利用其“短、小、精、悍”等特色，成为课堂教学的一种有效补充形式，已经在部分学校中使用并得到教师和学生的认可。
2 算法的充分下降性、信赖域和全局收敛性
本节将介绍算法1的两个重要性质,并证明其全局收敛性.
1)给出修正的PRP共轭梯度公式,其不仅有充分下降性,而且还具有信赖域特征.
在共轭梯度法全局收敛性的证明中,以下的一般假设是必要的[14-15].假设A
证明:如果k=1,容易得到式(7)和式(8).如果k≥1,在式(3)左右两边左乘
,我们有
所以,式(7)成立.再对式(3)取模,根据Cauchy-Sch warz不等式性质,有
令c*∈[1+1/c,+∞),那么式(8)成立.
等式(7)证明了新公式(3)具有充分下降性质,而不等式(8)证明新公式(3)具有信赖域特征,这两种很好的性质在共轭梯度算法的全局收敛中起着重要的作用.下面在引理1的基础上,证明算法1的全局收敛性.
2017年4月21日，我们在乌兰巴义尔的带领下参观完令人震撼的斯大林格勒保卫战全景博物馆和神往以久的祖国母亲纪念碑群后，驱车过伏尔加河来到30公里外的阿赫图巴河左岸，来到了前文所述伏尔加市基里亚科夫基(Киляковки)区。这里就是我们一直在寻找的当年图理琛曾造访过的阿玉奇汗牙帐所在地——马奴托海。
证明:通过式(4),式(7)和式(8),得到
将不等式从k=0到∞求和,并根据假设A的ii),得到
不等式(10)说明
原文中，“groat”的意思是“少许金钱”，那句话意思直译过来应是“一天一点点，一年一便士”的意思。而从陈译本的翻译中，我们可以看出来，译者并没有通过直译的方式来解释这句话，而是从反面的角度诠释话语内在的含义，实在是巧妙之极。首先，“便士”这个货币计量单位对很多译文读者来说是比较陌生的，他们不理解外国的金钱概念，也无法理解这个“groat”要表达的“节省”的内涵。但我们来看陈译本，“省一分钱等于赚一分钱”，读者立刻可以体会一分钱的重要性，因为“分”在金钱中是非常小的单位，中国读者一定是可以明白的。另外，这里把“省”和“赚”放在了一起，对比之下，更显出家长要教育孩子“节省金钱”的重要性。
成立.再通过式(5)和式(7)得到
因此,根据式(6)和式(7),以下不等式
成立.于是由式(8),可得
所以,式(9)成立.证明完毕.
3 数值实验
本节将给出算法1的数值结果,并和传统PRP三项共轭梯度公式在Y WL线搜索下的算法进行比较.
课程检查评价方式应既能准确、真实地反映学生掌握知识和能力的程度，又能体现学生学习过程中的态度，因而针对职业岗位典型工作任务难易度的不同，设置任务权重作为检查评价的比重。检查评价方式应尽可能多样化、趣味性，调动学生完成工作任务时的兴趣。
算法2:将算法1的第5步替换为传统PRP三项共轭梯度公式(12)[5]来计算方向d k+1.
其他步骤与算法1相同,我们将其称为算法2.
本文数值试验中,在表1中列举了其中51个测试函数,问题的详细说明可以在Andrei文献 [16-17]中找到.代码运行在Intel(R)Xeon(R)CPU,E5507@2.27 GHz,内存4.00 GB的 Windows 7操作系统上,由MATLAB R2014a编写.进行数值实验时,参数分别选取为:δ=0.07,δ1=0.029,σ=0.91,c=22.55.试验采用
f(x k+1)|.如果stop1＜1e-5或‖g(x k)‖＜1e-6成立,程序停止.如果线搜索次数大于6,则线搜索技术接受a k.如果总迭代次数大于800,算法将停止.表1中各列的意义分别是:No.表示测试问题编号,Problem表示测试问题的名称,Di m表示问题维度(n=900,1500,4500,9000),NI表示迭代总次数,CPUtime表示系统CPU时间(秒),totlef g表示NF与NG计算次数总和,NF表示函数值的计算次数,NG表示梯度函数的计算次数.数值实验结果见表1.
从表1中可以发现,在给定的测试函数中,算法1在求解大规模无约束优化问题总体上比算法2的数值结果要好,其中对于测试函数5、6、7、8、9、11、12、14、15、16、17、18、19等45个问题在大规模问题上的运算效果更为明显,对于测试函数1、2、3、4、10、13等6个问题,算法1在部分维数上略差于算法2.
表1 测试函数及数值结果Tab.1 Test problem and nu merical result
算法1算法2 No. Problem Di m NI totlef g CPUtime NF NG NI totlef g CPUtime NF NG 1 Extended Trigonometric Function 900 75 164 0.515625 83 81 77 167 0.21875 84 83 1500 76 165 0.21875 83 82 75 163 0.3125 82 81 4500 84 182 0.921875 91 91 84 182 0.9375 91 91 9000 92 198 1.90625 99 99 92 198 1.90625 99 99 2 3 4 5 6 Extended Rosenbrock Function Extended Beale Function Extended Penalty Function Perturbed Quadratic Function Raydan 1 Function 900 126 365 0.1875 211 154 25 65 0.03125 37 28 1500 157 457 0.265625 258 199 84 265 0.125 155 110 4500 183 532 0.6875 302 230 49 133 0.1875 74 59 9000 134 444 0.890625 258 186 75 217 0.484375 121 96 900 46 118 0.09375 63 55 28 69 0.03125 37 32 1500 50 136 0.15625 74 62 27 74 0.09375 41 33 4500 37 101 0.328125 55 46 24 66 0.1875 36 30 9000 48 131 0.734375 71 60 26 70 0.40625 38 32 900 109 234 0.125 117 117 109 234 0.09375 117 117 1500 110 239 0.171875 120 119 108 235 0.125 118 117 4500 127 274 0.640625 137 137 127 274 0.40625 137 137 9000 133 289 0.828125 145 144 134 291 0.8125 146 145 900 235 626 0.28125 344 282 800 1602 0.71875 801 801 1500 438 1205 0.53125 671 534 800 1602 0.453125 801 801 4500 652 1753 2.59375 968 785 800 1602 2.578125 801 801 9000 800 2172 5.25 1198 974 800 1602 4.359375 801 801 900 26 57 0.03125 29 28 24 53 0.03125 27 26 1500 26 57 0.0625 29 28 24 53 0.03125 27 26 4500 26 57 0.140625 29 28 24 53 0.140625 27 26 9000 26 57 0.234375 29 28 24 53 0.1875 27 26 7 Raydan 2 Function 900 12 26 0.03125 13 13 12 26 0 13 13 1500 12 26 0.046875 13 13 12 26 0.03125 13 13 4500 12 26 0.09375 13 13 12 26 0.03125 13 13 9000 12 26 0.09375 13 13 12 26 0.109375 13 13
续表1 测试函数及数值结果Tab.1 Test problem and nu merical result
算法1算法2 No. Proble m Di m NI totlef g CPUtime NF NG NI totlef g CPUtime NF NG 8 Diagonal 1 Function 900 2 9 0 7 2 2 9 0 7 2 1500 2 9 0 7 2 2 9 0 7 2 4500 2 9 0.015625 7 2 2 9 0.03125 7 2 9000 2 9 0 7 2 2 9 0.03125 7 2 9 Diagonal 2 Function 900 64 174 0.09375 98 76 74 179 0.125 95 84 1500 120 347 0.28125 196 151 81 192 0.15625 102 90 4500 24 71 0.125 40 31 119 292 0.640625 157 135 9000 14 46 0.203125 31 15 14 49 0.125 31 18 10 Hager Function 900 13 32 0.03125 17 15 14 34 0.03125 18 16 1500 12 30 0.046875 16 14 13 32 0.03125 17 15 4500 2 9 0 7 2 2 9 0.03125 7 2 9000 2 9 0.0625 7 2 2 9 0.03125 7 2 11 Generalized Tridiagonal 1 Function 900 7 17 0.4375 9 8 8 19 0.15625 10 9 1500 6 15 0.1875 8 7 7 17 0.25 9 8 4500 5 13 0.53125 7 6 6 15 0.5 8 7 9000 5 13 0.90625 7 6 6 15 1.0625 8 7 12 Extended Three Exponential Terms Function 900 18 39 0.03125 20 19 9 22 0.03125 12 10 1500 19 41 0.03125 21 20 33 69 0.09375 35 34 4500 19 40 0.140625 20 20 15 32 0.0625 16 16 9000 23 48 0.21875 24 24 23 48 0.21875 24 24 13 Generalized Tridiagonal 2 Function 900 32 75 0.125 40 35 74 152 0.25 77 75 1500 31 77 0.21875 42 35 31 70 0.15625 37 33 4500 37 88 0.640625 47 41 33 73 0.59375 38 35 9000 32 82 1 45 37 33 73 0.90625 38 35 14 Diagonal 5 Function 900 3 9 0 5 4 3 9 0 5 4 1500 3 9 0.03125 5 4 3 9 0.03125 5 4 4500 3 9 0.03125 5 4 3 9 0.03125 5 4 9000 3 9 0.0625 5 4 3 9 0.0625 5 4 15 Extended Hi mmel blau Function 900 21 50 0.03125 29 21 59 131 0.0625 71 60 1500 9 27 0.03125 18 9 23 56 0.03125 32 24 4500 17 48 0.078125 30 18 39 93 0.140625 53 40 9000 19 62 0.140625 42 20 87 201 0.484375 112 89 16 Generalized PSC1 Function 900 45 96 0.09375 48 48 34 75 0.0625 38 37 1500 46 98 0.125 49 49 39 89 0.09375 46 43 4500 34 77 0.25 39 38 39 84 0.28125 42 42 9000 34 77 0.421875 39 38 40 86 0.484375 43 43 17 Extended PSC1 Function 900 7 25 0.09375 18 7 9 43 0.09375 35 8 1500 8 31 0.125 24 7 11 56 0.15625 47 9 4500 8 31 0.34375 24 7 11 56 0.5 47 9 9000 8 31 1.15625 24 7 9 38 0.8125 30 8 18 Extended Maratos Function 900 16 32 0 16 16 15 30 0.03125 15 15 1500 20 40 0.03125 20 20 20 40 0.03125 20 20 4500 34 68 0.109375 34 34 34 68 0.0625 34 34 9000 46 92 0.203125 46 46 46 92 0.203125 46 46 19 Extended Cliff Function 900 92 202 0.125 101 101 92 202 0.125 101 101 1500 92 202 0.25 101 101 92 202 0.1875 101 101 4500 95 208 0.5625 104 104 95 208 0.515625 104 104 9000 99 216 0.984375 108 108 99 216 1.03125 108 108 20 Extended Wood Function 900 36 95 0.03125 51 44 34 87 0.0625 47 40 1500 34 86 0.0625 46 40 57 131 0.09375 69 62 4500 35 87 0.15625 46 41 58 144 0.203125 80 64 9000 37 91 0.234375 48 43 38 104 0.296875 57 47
续表1 测试函数及数值结果Tab.1 Test problem and nu merical result
算法1算法2 No. Proble m Di m NI totlef g CPUtime NF NG NI totlef g CPUtime NF NG 21 Quadratic Function QF1 Function 900 215 568 0.21875 313 255 800 1602 0.640625 801 801 1500 400 1116 0.40625 623 493 800 1602 0.359375 801 801 4500 643 1692 2.078125 926 766 800 1602 1.96875 801 801 9000 697 1860 3.3125 1027 833 800 1602 3.109375 801 801 22 Extended Quadratic Penalty QP1 Function 900 36 78 0.0625 39 39 36 78 0.0625 39 39 1500 38 82 0.0625 41 41 38 82 0.0625 41 41 4500 46 100 0.171875 50 50 46 100 0.15625 50 50 9000 45 98 0.296875 49 49 45 98 0.28125 49 49 23 Extended Quadratic Penalty QP2 Function 900 78 158 0.125 79 79 78 158 0.125 79 79 1500 28 60 0.0625 30 30 28 60 0.03125 30 30 4500 54 112 0.28125 56 56 54 112 0.28125 56 56 9000 49 104 0.515625 52 52 49 104 0.53125 52 52 24 Extended Quadratic Penalty QP2 Function 900 4 9 0 5 4 4 9 0 5 4 1500 4 9 0 5 4 4 9 0 5 4 4500 3 7 0 4 3 3 7 0 4 3 9000 2 5 0 3 2 2 5 0 3 2 25 Extended EP1 Function 900 3 7 0 4 3 3 7 0 4 3 1500 7 14 0 7 7 7 14 0.03125 7 7 4500 4 8 0 4 4 4 8 0.03125 4 4 9000 6 12 0.046875 6 6 6 12 0.03125 6 6 26 Extended Tridiagonal-2 Function 900 7 14 0 7 7 7 14 0 7 7 1500 9 18 0 9 9 9 18 0 9 9 4500 14 28 0.0625 14 14 14 28 0.03125 14 14 9000 19 38 0.15625 19 19 19 38 0.125 19 19 27 ARWHEAD Function(CUTE)900 24 48 0.109375 24 24 24 48 0.03125 24 24 1500 25 50 0.0625 25 25 25 50 0.03125 25 25 4500 27 54 0.09375 27 27 27 54 0.078125 27 27 9000 28 56 0.1875 28 28 28 56 0.15625 28 28 28 EG2 Function(CUTE)900 4 21 0.03125 19 2 4 21 0 19 2 1500 4 21 0.046875 19 2 4 21 0 19 2 4500 4 21 0.03125 19 2 4 21 0.03125 19 2 9000 4 21 0.03125 19 2 4 21 0.0625 19 2 29 DIXMAANA Function(CUTE)900 21 46 0.15625 23 23 21 46 0.15625 23 23 1500 21 46 0.25 23 23 22 48 0.25 24 24 4500 23 50 0.71875 25 25 23 50 0.78125 25 25 9000 23 50 1.734375 25 25 23 50 1.453125 25 25 30 DIXMAANB Function(CUTE)900 34 72 0.265625 36 36 34 72 0.25 36 36 1500 34 72 0.375 36 36 34 72 0.390625 36 36 4500 36 76 1.171875 38 38 36 76 1.125 38 38 9000 37 78 2.40625 39 39 37 78 2.25 39 39 31 DIXMAANC Function(CUTE)900 58 120 0.40625 60 60 58 120 0.40625 60 60 1500 60 124 0.390625 62 62 60 124 0.4375 62 62 4500 63 130 2.4375 65 65 63 130 2.125 65 65 9000 66 136 4.265625 68 68 66 136 4.09375 68 68 32 DIXMAANE Function(CUTE)900 89 234 0.640625 127 107 98 203 0.6875 102 101 1500 145 371 0.78125 198 173 112 231 0.609375 116 115 4500 128 351 4.828125 191 160 144 295 4.796875 148 147 9000 134 371 9.828125 205 166 167 341 10.6875 171 170 33 Partial Perturbed Quadratic Function 900 62 146 1.828125 77 69 77 173 2.078125 90 83 1500 75 158 4.21875 80 78 80 170 4.59375 87 83 4500 52 112 52.734375 57 55 117 242 118.0625 122 120 9000 58 143 157.546875 77 66 77 176 203.25 92 84
续表1 测试函数及数值结果Tab.1 Test problem and nu merical result
算法1算法2 No. Proble m Di m NI totlef g CPUtime NF NG NI totlef g CPUtime NF NG 34 Al most Perturbed Quadratic Function 900 334 904 0.34375 500 404 800 1602 0.578125 801 801 1500 327 871 0.1875 478 393 800 1602 0.359375 801 801 4500 663 1807 2.15625 1000 807 800 1602 2.125 801 801 9000 800 2170 3.984375 1200 970 800 1602 3.171875 801 801 35 Tridiagonal Pertur bed Quadratic Function 36 EDENSCH Function(CUTE)37 VARDI M Function(CUTE)38 STAIRCASE S1 Function 39 DIAGONAL 6 Function 40 DIX MAANF Function(CUTE)41 DIX MAANG Function(CUTE)42 DIX MAANH Function(CUTE)43 DIXMAANI Function(CUTE)44 DIXMAANJ Function(CUTE)45 DIXMAANK Function(CUTE)900 243 629 2.28125 343 286 800 1602 5.578125 801 801 1500 271 720 3.078125 394 326 800 1602 8.0625 801 801 4500 639 1747 53.21875 964 783 800 1602 54.515625 801 801 9000 800 2120 127.96875 1165 955 800 1602 106.03125 801 801 900 24 50 0.09375 25 25 24 50 0.09375 25 25 1500 24 50 0.125 25 25 24 50 0.09375 25 25 4500 23 48 0.3125 24 24 23 48 0.28125 24 24 9000 23 48 0.59375 24 24 23 48 0.578125 24 24 900 154 332 0.3125 166 166 154 332 0.28125 166 166 1500 163 352 0.4375 176 176 163 352 0.3125 176 176 4500 185 400 1.4375 200 200 185 400 1.375 200 200 9000 198 428 2.828125 214 214 198 428 2.78125 214 214 900 800 2154 0.625 1186 968 800 1628 0.703125 820 808 1500 800 2093 0.5 1139 954 800 1614 0.40625 810 804 4500 800 2187 2.953125 1209 978 800 1638 2.421875 828 810 9000 800 2190 4.78125 1211 979 800 1622 4 816 806 900 20 42 0.0625 21 21 20 42 0.125 21 21 1500 20 42 0.15625 21 21 20 42 0.09375 21 21 4500 21 44 0.421875 22 22 21 44 0.375 22 22 9000 22 46 0.765625 23 23 22 46 0.71875 23 23 900 57 137 0.453125 72 65 91 189 0.65625 95 94 1500 60 147 0.390625 78 69 88 186 0.4375 94 92 4500 66 160 2.375 84 76 92 194 3.0625 98 96 9000 73 181 5.15625 96 85 116 242 7.421875 122 120 900 91 238 0.71875 129 109 107 220 0.8125 110 110 1500 121 318 0.703125 172 146 118 242 0.59375 121 121 4500 106 263 3.8125 140 123 135 276 4.359375 138 138 9000 149 349 10.296875 183 166 152 310 9.6875 155 155 900 58 138 0.5 72 66 70 155 0.5 79 76 1500 58 132 0.375 68 64 64 148 0.484375 77 71 4500 57 133 1.96875 69 64 70 161 2.484375 86 75 9000 60 142 4.1875 74 68 100 216 6.453125 110 106 900 86 231 0.6875 126 105 97 201 0.6875 101 100 1500 91 241 0.515625 132 109 110 227 0.609375 114 113 4500 113 309 4.34375 168 141 140 287 5.109375 144 143 9000 119 326 8.78125 178 148 161 329 10.203125 165 164 900 64 161 0.5 86 75 103 213 0.71875 107 106 1500 74 187 0.546875 100 87 95 197 0.46875 99 98 4500 90 217 3.21875 114 103 92 194 3.03125 98 96 9000 83 208 5.859375 112 96 102 214 6.515625 108 106 900 78 187 0.5625 98 89 82 187 0.515625 97 90 1500 75 188 0.40625 100 88 204 417 1.015625 209 208 4500 97 255 3.578125 139 116 252 513 8.28125 257 256 9000 102 266 7.296875 144 122 297 603 18.65625 302 301 46 DIXMAANL Function(CUTE)900 129 322 0.765625 171 151 121 248 0.671875 124 124 1500 117 295 0.625 158 137 570 1146 2.875 573 573 4500 179 434 6.40625 230 204 800 1606 26.515625 803 803 9000 165 401 11.6875 212 189 800 1606 50.90625 803 803
续表1 测试函数及数值结果Tab.1 Test proble m and nu merical result
算法1算法2 No. Problem Di m NI totlef g CPUtime NF NG NI totlef g CPUtime NF NG 47 DIX MAAND Function(CUTE)900 28 62 0.1875 31 31 28 62 0.1875 31 31 1500 28 62 0.3125 31 31 29 64 0.265625 32 32 4500 29 64 0.921875 32 32 29 64 1 32 32 9000 29 64 2.109375 32 32 29 64 1.84375 32 32 48 ENGVAL1 Function(CUTE)900 47 98 0.796875 49 49 47 98 0.765625 49 49 1500 47 98 0.53125 49 49 47 98 0.5625 49 49 4500 49 102 4.265625 51 51 49 102 4.125 51 51 9000 49 100 7.859375 50 50 49 100 8.15625 50 50 49 FLETCHCR Function(CUTE)900 40 114 0.53125 66 48 800 1608 5.109375 806 802 1500 40 114 0.4375 66 48 800 1608 7.75 806 802 4500 40 114 3.234375 66 48 800 1608 51.53125 806 802 9000 40 114 6.1875 66 48 800 1608 96.90625 806 802 50 Extended DENSCHNB Function(CUTE)900 33 68 0.03125 34 34 33 68 0.03125 34 34 1500 34 70 0.03125 35 35 34 70 0.0625 35 35 4500 36 74 0.171875 37 37 36 74 0.15625 37 37 9000 37 76 0.234375 38 38 37 76 0.234375 38 38 51 DENSCHNF Function(CUTE)900 37 79 0.03125 40 39 68 141 0.09375 71 70 1500 37 79 0.0625 40 39 66 137 0.125 69 68 4500 39 83 0.21875 42 41 55 115 0.3125 58 57 9000 40 85 0.4375 43 42 49 103 0.5 52 51
为了更直观比较两种算法的性能,本文引用Dolan and Mor'e在文献[18]图表形式做出了算法1和算法2的NI、NF、CPUtime和NG的性能比较图,分别是图1～4.根据性能比较图的评价方法,在图中可以发现在计算精度相同的条件下,算法1都优于算法2,且算法1的性能更稳定,适用于大规模无约束优化问题.因此,笔者提出的新算法是有效的.
图1 迭代次数比较图Fig.1 Performance profiles of these methods(NI)
图2 目标函数值计算次数比较图Fig.2 Performance profiles of these methods(NF)
图3 运行时间比较图Fig.3 Performance profiles of these methods(CPU-Ti me)
图4 目标函数梯度值计算次数比较图Fig.4 Performance profiles of these methods(NG)
[1]戴彧虹,袁亚湘.非线性共轭梯度法[M].上海:上海科技出版社,1999.
[2]YUAN Gonglin,Duan Xiabin,LIU Weijie,et.al.Two new PRP conjugate gradient algorith ms formini mization opti mization models[J].PLOS ONE,2015(e0140071),10(10):1-24.
[3]YUAN Gonglin,MENG Zehong,LI Yong.A modified Hestenes and Stiefel conjugate gradient algorith m for large-scale nonsmooth mini mizations and nonlinear equations[J].Jour nal of Optimization Theory and Applications,2016(168):129C152.
[4]YUAN Gonglin,SHENG Zhou,LIU Wenjie.The modified HZconjugate gradient algorith mfor large-scale nonsmooth opti mization[J].PLOS ONE,2016(e0164289),11(10):1-15.
[5]ZHANG Li,ZHOU Weijun,LI Donghui.A descent modified Polak-Ribiere-Polyak conjugate method and its global convergence[J].I MA Journal on Nu merical Analysis,2006(26):629-649.
[6]MCCORMICK G.A modification of Armijo's step-size rule for negative curvature,Mathematical Programming[J].1977(13):111-115.
[7]YUAN Yaxiang,SUN Wenyi.Theory and Methods of Opti mization[M].Science Press of China,1999.
[8]ARMIJO L.Mini mization of functions having Lipschitz conditions partial derivatives,Pacific Journal of Mathematics[J].1966(16):1-3.
[9]GRIPPO L,LAMPARIELLO F,LUCIDI S.A non monotone line search technique for Newton's methods,SIAM J.Nu mer.Anal[J].1986(23):707-716.
[10]WEI Zengxin,QI Liqun,Chen X.An SQP-Type Method and Its Application in Stochastic Programs[J].Journal of Opti mization Theory&Applications,2003,116(1):205-228.
[11]WEI Zengxin,QI Liqun,ITO S.New step-size rules foropti mization proble ms[J].Inter national Conference on Recent Advances in Computational Mathe matics,Japan SIA M,2001.
[12]WEI Zengxin,LI Guoyin,QI Liqun.Global convergence of the Polak-Ribière-Polyak conjugate gradient method with an Armijo-type inexact line search for nonconvex unconstrained opti mization problems[J].Mathe matics of Computation,2008,77(264):2173-2193.
[13]YUAN Gonglin,WEI Zengxin,LU Xiwen.Global conver gence of the BFGS method and the PRP method for general functions under amodified weak Wolfe-Powell line search[J].Appl.Math.Model,2017(47):811-825.
[14]FLETCHER R,REEVESR C M.Function mini mization by conjugate gradients[J].Computer Jour nal,1964,7(2):149-154.
[15]DAI Yuhong,YUAN Yaxiang.A nonlinear conjugate gradient with a strong global conver gence properties[J].SIA MJ.Opti m.2000(10):177–182.
[16]ANDREI N.An unconstrained opti mization test functions collection[J].Environ mental Science and Technology,2008,10(1):6552-6558.
[17]BONGARTZ I,CONN AR,GOUNLD N.Constrained and unconstrained testing environ ment[J].Ac m Transactions on Mathematical Soft ware,1993,50(124):123-160.
[18]DOLAN E D,MORE J J.Bench marking opti mization soft ware with performance profiles[J].Mathe matical Programming,2002,91(2):201-213.
《广西民族大学学报(自然科学版)》
2018年第04期
上一篇：《富春江渔文化记忆》书评
下一篇：群在群上的φ#作用
《广西民族大学学报(自然科学版)》2018年第04期文献
吴文俊先生的科学史观
作者：张波
“仪”字四义考释
作者：仪德刚
适用技术的发展及对中国创新的启示
作者：赵华
《酉阳杂俎》中的天文学内容初探
作者：万映秋
广西合浦汉墓出土青铜鐎壶修复保护
作者：任晓磊，刘彦琪，黄槐武
少数民族地区传统工艺振兴的困境与出路 ——以壮锦为例
作者：樊道智，万辅彬
西方气象学史研究的成果、新起点和史料来源 ——《西洋气象学史》评介
作者：张改珍，李蓓蓓
《富春江渔文化记忆》书评
作者：陈彪，谭静，卢郁静
求解大规模无约束优化问题的一种新的PRP三项共轭梯度法
作者：王松华，黎勇
群在群上的φ#作用
作者：刘秀
大数据用户偏好信息全局降维算法研究
作者：郑羽洁
基于贝叶斯网络模型的舰船通信信息传输隐写算法设计
作者：廖克顺
抗电子干扰体系探测资源管控双层预案设计
作者：段艳红，丁建江，邹韬，陈林涛
高吸油性能软质聚氨酯泡沫的合成研究
作者：豆高雅
PVA/粉煤灰/水泥性能研究
作者：豆鹏飞
合金铸造成型技术实训教学实践与探索
作者：祝金明，崔雪鸿，蒙洁丽
合格评估视野下高校金融数学专业建设探索
作者：黄敬频，唐国吉，卢若飞
广西民族大学学报(自然科学版)2018年总目次
作者：潘全梅
服务严谨可靠
7×14小时在线支持
支持宝特邀商家
不满意退款