×

非光滑稀疏优化的对角束方法。 (英语) Zbl 1323.65069号

摘要:我们提出了一种用于稀疏非光滑、可能非凸优化的有效对角束方法。对于非必要可微或凸的局部Lipschitz连续函数,证明了该方法的收敛性。数值实验是使用多达百万个变量的问题进行的。将要呈现的结果证实了对角束方法的可用性,特别是对于超大规模问题。

MSC公司:

65千5 数值数学规划方法
90C26型 非凸规划,全局优化
90C06型 数学规划中的大尺度问题
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Outrata,J.,Kočvara,M.,Zowe,J.:平衡约束优化问题的非光滑方法。理论、应用和数值结果。Kluwert学术出版社,多德雷赫特(1998)·Zbl 0947.9003号 ·doi:10.1007/978-1-4757-2825-5
[2] Moreau,J.J.,Panagiotopoulos,P.D.,Strang,G.(编辑):非光滑力学专题。Birkhäuser Verlag,巴塞尔(1988年)·Zbl 0646.00014号
[3] Mistakidis,E.S.,Stavroulakis,G.E.:力学中的非凸优化。F.E.M.Kluwert学术出版社《平滑和非平滑算法、启发式和工程应用》,Dordrecht(1998)·Zbl 0918.73002号
[4] Clarke,F.H.,Ledyaev,Y.S.,Stern,R.J.,Wolenski,P.R.:非光滑分析与控制理论。施普林格,纽约(1998)·1047.49500兹罗提
[5] Haslinger,J.,Neittanmäki,P.:最佳形状、材料和拓扑设计的有限元近似,第2版。约翰·威利父子公司,奇切斯特(1996)·Zbl 0845.73001号
[6] Kärkkäinen,T.,Heikkola,E.:训练多层感知器的稳健公式。神经系统。计算。16, 837-862 (2004) ·Zbl 1097.68594号 ·doi:10.1162/089976604322860721
[7] 《利用稳健聚类进行知识挖掘》,Jyväskylä大学数学信息技术系博士论文(2006年)。
[8] Bradley,P.S.,Fayyad,U.M.,Mangasarian,O.L.:数据挖掘的数学编程:公式和挑战。信息J.计算。11217-238(1999年)·Zbl 0973.90096号 ·doi:10.1287/ijoc.11.3.217
[9] Demyanov,V.F.,Bagirov,A.M.,Rubinov,A.M.:截断余微分方法及其在聚类分析中的应用。环球杂志。最佳方案。23(1), 63-80 (2002) ·Zbl 1034.49009号 ·doi:10.1023/A:1014075113874
[10] Astorino,A.,Fuduli,A.:半监督分类的非光滑优化技术。IEEE传输。图案。分析。机器。智力。29(12), 2135-2142 (2007) ·doi:10.1109/TPAMI.2007.1102
[11] Astorino,A.,Fuduli,A.,Gorgone,E.:分类问题中的非光滑性。最佳方案。方法软件。23(5), 675-688 (2008) ·Zbl 1154.90643号 ·网址:10.1080/10556780802264071
[12] Bergeron,C.、Moore,G.、Zaretzki,J.、Breeman,C.、Bennett,K.:多实例学习的快速捆绑算法。IEEE模式分析和机器智能汇刊,34(6),1068-1079(2012)。
[13] Carrizosa,E.,Morales,D.R.:监督分类和数学优化。计算。操作。第40(1)号决议,第150-165号决议(2013年)·Zbl 1349.68135号 ·doi:10.1016/j.cor.2012.05.015
[14] Lemaréchal,C.:不可微优化。收录于:G.L.Nemhauser、A.H.G.Rinnooy Kan、M.J.Todd(编辑)《优化》,第529-572页。Elsevier North-Holland Inc,纽约(1989)。
[15] Beck,A.,Teboulle,M.:凸优化的镜像下降和非线性投影次梯度方法。操作。Res.Lett公司。31(3), 167-175 (2003) ·Zbl 1046.90057号 ·doi:10.1016/S0167-6377(02)00231-6
[16] Ben-Tal,A.,Nemirovski,A.:用于大规模凸优化的非核素限制内存级方法。数学。程序。102(3), 407-456 (2005) ·兹比尔1066.90079 ·doi:10.1007/s10107-004-0553-4
[17] Shor,N.Z.:不可微函数的最小化方法。柏林斯普林格·弗拉格(1985)·Zbl 0561.90058号 ·doi:10.1007/978-3642-82118-9
[18] Uryasev,S.P.:不可微优化问题的算法。J.优化。理论应用。71, 359-388 (1991) ·Zbl 0793.90078号 ·doi:10.1007/BF00939925
[19] Gaudioso,M.,Monaco,M.F.:凸不可微优化切割平面方法的变体。优化25,65-75(1992)·Zbl 0817.90076号 ·网址:10.1080/02331939208843808
[20] Hiriart-Urruti,J.B.,Lemaréchal,C.:凸分析和最小化算法II。柏林斯普林格·弗拉格(1993)·Zbl 0795.49002号
[21] Kiwiel,K.C.:不可微优化的下降方法。数学1133课堂讲稿。施普林格·弗拉格,柏林(1985年)·Zbl 0561.90059号
[22] Lukšan,L.,Vlček,J.:凸非光滑无约束极小化的全局收敛变尺度方法。J.优化。理论应用。102(3), 593-613 (1999) ·Zbl 0955.90102号 ·doi:10.1023/A:1022650107080
[23] Mäkelä,M.M.:非光滑优化的束方法综述。最佳方案。方法软件。17(1), 1-29 (2002) ·Zbl 1050.90027号 ·doi:10.1080/10556780290027828
[24] Mäkelä,M.M.,Neitaanmaki,P.:非光滑优化:分析和算法及其在最优控制中的应用。新加坡世界科学出版公司(1992)·Zbl 0757.49017号 ·数字对象标识代码:10.1142/1493
[25] Sagastizábal,C.,Solodov,M.:无惩罚函数或滤波器的非光滑凸约束优化的不可行束方法。SIAM J.Optim公司。16(1),146-169(2005)·Zbl 1114.90093号 ·数字对象标识代码:10.1137/040603875
[26] Schramm,H.,Zowe,J.:最小化非光滑函数的捆绑思想的一个版本:概念思想,收敛分析,数值结果。SIAM J.Optim公司。2(1), 121-152 (1992) ·Zbl 0761.90090号 ·doi:10.1137/0802008年
[27] Polak,E.,Royset,J.O.:使用自适应平滑技术的有限和半有限min-max-min问题的算法。J.优化。理论应用。119, 421-457 (2003) ·Zbl 1061.90116号 ·doi:10.1023/B:JOTA.00006684.67437.c3
[28] Burke,J.V.,Lewis,A.S.,Overton,M.L.:用于非光滑、非凸优化的稳健梯度采样算法。SIAM J.Optim公司。15, 751-779 (2005) ·Zbl 1078.65048号 ·数字对象标识代码:10.1137/030601296
[29] Apkarian,P.,Noll,D.,Prot,O.:非凸特征值优化的信赖域谱束方法。SIAM J.Optim公司。19(1),281-306(2008)·Zbl 1167.90015号 ·doi:10.1137/060665191
[30] Fuduli,A.,Gaudioso,M.,Nurminski,E.A.:非光滑非凸最小化的分裂束方法。优化,(2013年,出版),doi:10.1080/02331934.2013.840625·Zbl 1311.90108号
[31] Fuduli,A.,Gaudioso,M.,Giallonbardo,G.:通过切割平面和邻近控制最小化非凸非光滑函数。SIAM J.Optim公司。14(3), 743-756 (2004) ·Zbl 1079.90105号 ·doi:10.1137/S10526223402411459
[32] Hare,W.,Sagastizábal,C.:非凸优化的重分配近端束方法。SIAM J.Optim公司。20(5), 2442-2473 (2010) ·Zbl 1211.90183号 ·doi:10.1137/090754595
[33] Karmitsa,N.,Tanaka Filho,M.,Herskovits,J.:非凸非光滑最小化的全局收敛割平面方法。J.优化。理论应用。148(3), 528-549 (2011) ·Zbl 1229.90140号
[34] Noll,D.,Prot,O.,Rondepierre,A.:最小化非光滑和非凸函数的接近控制算法。派克靴。J.优化。4(3), 571-604 (2008) ·Zbl 1162.49020号
[35] Haarala,M.:大规模非光滑优化:内存有限的可变度量束方法。Jyväskylä大学数学信息技术系博士论文(2004年)·兹比尔1068.90101
[36] Haarala,M.,Miettinen,K.,Mäkelä,M.M.:用于大规模非光滑优化的新的有限内存束方法。最佳方案。方法软件。19(6), 673-692 (2004) ·兹比尔1068.90101 ·doi:10.1080/1055678041001689225
[37] Haarala,N.,Miettinen,K.,Mäkelä,M.M.:大规模非光滑优化的全局收敛有限内存束方法。数学。程序。109(1), 181-205 (2007) ·Zbl 1278.90451号 ·doi:10.1007/s10107-006-0728-2
[38] Bagirov,A.M.、Karmitsa,N.、Mäkelä,M.M.:非光滑优化导论:理论、实践和软件。施普林格国际出版公司(2014)·Zbl 1312.90053号
[39] Karmitsa,N.,Bagirov,A.,Mäkelä,M.M.:比较不同的非光滑优化方法和软件。最佳方案。方法软件。27(1), 131-153 (2012) ·Zbl 1242.90233号 ·doi:10.1080/10556788.2010.526116
[40] Herskovits,J.,Goulart,E.:大型非线性优化的稀疏拟Newton矩阵。收录于:《第六届世界结构与多学科优化大会论文集》(2005)·Zbl 1029.90060号
[41] Clarke,F.H.:优化和非光滑分析。Wiley-Interscience,纽约(1983年)·Zbl 0582.49001号
[42] Karmitsa,N.,Mäkelä,M.M.,Ali,M.M:大不等式约束非光滑最小化的有限内存内点束方法。申请。数学。计算。198(1), 382-400 (2008) ·Zbl 1137.65043号 ·doi:10.1016/j.amc.2007.08.044
[43] 弗切克,J.,卢克桑,L.:非凸不可微无约束极小化的全局收敛变量度量方法。J.优化。理论应用。111(2), 407-430 (2001) ·Zbl 1029.90060号 ·doi:10.1023/A:1011990503369
[44] Byrd,R.H.,Nocedal,J.,Schnabel,R.B.:拟牛顿矩阵的表示及其在有限记忆方法中的应用。数学。程序。63, 129-156 (1994) ·Zbl 0809.90116号 ·doi:10.1007/BF01582063
[45] Lemaréchal,C。;斯特罗迪奥,JJ;Bihain,A。;Mangasarian,OL(编辑);Mayer,RR(编辑);Robinson,SM(编辑),关于非光滑优化的束算法,245-281(1981),纽约
[46] Mifflin,R.:非光滑最小化Lemaréchal算法的修改和扩展。材料程序。研究17,77-90(1982)·Zbl 0476.65047号 ·doi:10.1007/BFb0120960
[47] Bihain,A.:上半可微函数的优化。J.优化。理论应用。4, 545-568 (1984) ·Zbl 0534.90069号 ·doi:10.1007/BF00938396
[48] Fletcher,R.:实用优化方法,第2版。奇切斯特·威利(1987)·Zbl 0905.65002号
[49] Nocedal,J.:用有限存储更新准Newton矩阵。数学。计算。35(151), 773-782 (1980) ·Zbl 0464.65037号 ·doi:10.1090/S0025-5718-1980-0572855-7
[50] Fletcher,R.:稀疏Hessian矩阵的最优正定更新。SIAM J.Optim公司。5(1), 192-218 (1995) ·Zbl 0824.65038号 ·数字对象标识代码:10.1137/0805010
[51] Fletcher,R.,Grothe,A.,Leyffer,S.:计算具有最佳遗传特性的稀疏Hessian和Jacobian近似。邓迪大学数值分析报告NA/164(1995)·Zbl 0884.65057号
[52] Toint,P.L.:关于线性方程下的稀疏对称矩阵更新。数学。计算。31(140), 954-961 (1977) ·Zbl 0379.65034号 ·doi:10.1090/S025-5718-1977-045338-4
[53] Mäkelä,M.M.:非凸非光滑优化的多目标近端束方法:Fortran子程序MPBNGC 2.0。数学信息技术系的报告,科学计算B辑,B.13/2003 Jyväskylä大学,Jyváskyl-ä(2003)·Zbl 0973.90096号
[54] Bagirov,A.M.,Ganjehlou,A.N.:非光滑优化的割线方法。提交时间(2009年)·Zbl 1155.90014号
[55] Bagirov,A.M.,Ganjehlou,A.N.:最小化非光滑函数的拟割线方法。最佳方案。方法软件。25(1), 3-18 (2010) ·Zbl 1202.65072号 ·doi:10.1080/10556780903151565
[56] Lukšan,L.:在线性约束非线性极小极大近似下,将二次规划的一个特殊问题作为子问题求解的对偶方法。Kybernetika凯贝内提卡20,445-457(1984)·Zbl 0552.90074号
[57] Miettinen,K.,Mäkelä,M.M.:交互式多目标优化中的同步方法。欧洲药典。第170(3)号决议,909-922(2006)·Zbl 1091.90071号 ·doi:10.1016/j.ejor.2004.07.052
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。