×

主动签名方法对分段线性函数局部极小值的有限收敛性。 (英语) Zbl 1428.90177号

摘要:我们先前推导了由涉及光滑元素和绝对值的评估程序定义的函数的一阶(KKT)和二阶(SOSC)最优性条件。对于这类问题,我们证明了在适当的假设下,带邻近项的逐次abs-linear极小化算法(SALMIN)实现了线性甚至二次收敛速度。SALMIN的一个名为LiPsMin的实现已经实现并测试。它对内环使用束型方法测向器,即用二次近似项最小化局部分段线性模型。因此,内部求解器可能会卡在分段线性化的平稳点上,而整体算法只能保证其聚类点的克拉克平稳性。在这里,我们提出了一种新的方法来计算近端模型目标的局部极小值。因此,外部迭代的所有簇点都必须是一阶极小值,这在非光滑优化中也称为临界性。所采用的主动签名策略与凸QOP的经典方法非常相似,并且使用了相同的数字线性代数技术。新的定制算法为结构开发提供了机会,例如在非线性外环环境中的温启动。

MSC公司:

90 C56 无导数方法和使用广义导数的方法
49J52型 非平滑分析
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 菲格,S。,Lipschitz分段光滑目标函数的最小化,帕德博恩大学博士论文,2017年。
[2] 菲格,S。;Walther,A。;Griewank,A.,通过连续分段线性化实现非光滑优化的算法,数学。程序。序列号。A(2018)
[3] 福岛,M。;Tseng,P.,一种计算线性互补约束数学程序的B平稳点的可实现的主动集算法,SIAM J.Optim。,12, 3, 724-739 (2002) ·Zbl 1005.65064号 ·doi:10.1137/S1052623499363232
[4] 吉利,O.W。;Kelley Pace,R.,《关于Harrison和Rubinfeld的数据》,环境杂志。经济。管理。,31, 3, 403-405 (1996) ·Zbl 0925.90112号 ·doi:10.1006/jeem.1996.0052
[5] 格洛洛特,X。;Bordes,A。;Bengio,Y.,深度稀疏整流器神经网络,J.Mach。学习。《决议》,第15号,第315-323页(2011年)
[6] Goffin,J.-L.,非光滑优化中的次梯度优化(包括苏联革命),Doc。数学。,额外卷,277-290(2012)·Zbl 1282.90135号
[7] Griewank,A。,非光滑复合函数的自动方向微分优化的最新发展。第七届法国-德国优化会议,法国第戎,1994年6月27日至7月2日,柏林施普林格,1995年,第155-169页·Zbl 0839.65024号
[8] Griewank,A.,关于稳定分段线性化和广义算法微分,Optim。方法软件。,28, 6, 1139-1178 (2013) ·Zbl 1278.65021号 ·doi:10.1080/10556788.2013.796683
[9] Griewank,A.和Strogies,N。,通过矩阵压缩有效评估稀疏雅可比矩阵,第一部分:动机和理论《第二届数学、计算和统计科学国际会议论文集》,格但斯克,2014年,第33-40页。
[10] Griewank,A。;Walterher,A.,评估导数:算法微分的原理和技术(2008),SIAM:SIAM,费城·兹比尔1159.65026
[11] Griewank,A。;Walther,A.,分段光滑目标函数的一阶和二阶最优性条件,Optim。方法软件。,31, 5, 904-930 (2016) ·Zbl 1385.90026号 ·doi:10.1080/10556788.2016.1189549
[12] A.Griewank和A.Walther。,放松扭折条件并证明分段光滑优化的收敛速度Yachay Tech技术代表,2017年。可在线优化·Zbl 1410.90252号
[13] Griewank,A。;伯恩特·J·U。;Randons,M。;斯特鲁贝尔,T.,解非正规形式的分段线性方程,线性代数应用。,471, 500-530 (2015) ·Zbl 1308.90179号 ·doi:10.1016/j.laa.2014.12.017
[14] Griewank,A。;Walther,A。;费格,S。;Bosse,T.,《基于灰盒分段线性化的Lipschitz优化》,数学。程序。序列号。A、 158、1-2、383-415(2016)·Zbl 1350.49038号 ·doi:10.1007/s10107-015-0934-x
[15] Gürbüzbalaban,M。;Overton,M.L.,关于Nesterov的非光滑Chebyshev-Rosenbrock函数,非线性分析:理论方法应用。,75, 3, 1282-1289 (2012) ·Zbl 1269.49018号 ·doi:10.1016/j.na.2011.07.062
[16] 哈斯科·L。;Pascual,V.,Tapenade自动差异化工具:原理、模型和规范,ACM Trans。数学。软质。,39, 3, 20:1-20:43 (2013) ·Zbl 1295.65026号 ·doi:10.1145/2450153.2450158
[17] 希里亚特·乌鲁蒂,J.-B。;Lemaréchal,C.,凸分析和最小化算法I(1993),Springer:Springer,柏林·Zbl 0795.49001号
[18] 北卡罗来纳州卡米萨。;Mäkelä,M.,大边界约束非光滑优化的有限内存束方法:收敛分析,Optim。方法软件。,25, 6, 895-916 (2010) ·Zbl 1198.90359号 ·网址:10.1080/10556780902842495
[19] 柯奇斯,C。;Potschka,A。;博克·H·G。;Sager,S.,带消失约束的二次规划子类的参数活动集方法,Pacific J.Optim。,9, 2, 275-299 (2013) ·兹比尔1270.90042
[20] Klee,V.和Minty,G.J。,单纯形算法有多好?《不平等III》(1969年9月1日至9日在洛杉矶加利福尼亚大学举行的第三届不平等研讨会的会议记录),学术出版社,伦敦,1972年,第159-175页·Zbl 0297.90047号
[21] Korzec,M。;Griewank,A。;Walther,A.,维护因子化KKT系统,接受Hessians和Jacobians的一级更新,Optim。方法软件。,22, 2, 279-295 (2007) ·Zbl 1196.90130号 ·doi:10.1080/10556780500487867
[22] 刘易斯,A。;Overton,M.,通过拟Newton方法进行非光滑优化,数学。程序。序列号。A、 141、1-2、135-163(2013)·Zbl 1280.90118号 ·doi:10.1007/s10107-012-0514-2
[23] Mäkelä,M.M.,非凸非光滑优化的多目标近端束方法:Fortran子程序MPBNGC 2.0。数学信息技术系的报告,B辑,科学计算第B 13/2003号,Jyväskylä大学,Jyvskylá,2003年。
[24] Mäkelä,M.M。;Neittanmäki,P.,《非光滑优化:分析与算法及其在最优控制中的应用》(1992),世界科学出版公司·Zbl 0757.49017号
[25] 莫杜霍维奇,B。;Sarabi,M.,通过二阶广义微分的变分系统中的临界乘数,数学。程序。,162, 2, 605-648 (2018) ·Zbl 1407.90314号 ·doi:10.1007/s10107-017-1155-2
[26] Nocedal,J.和Wright,S。,数值优化《Springer运筹学系列》,Springer,纽约,2006年·Zbl 1104.65059号
[27] 施密特,M。,L1-形式正则化最小二乘优化技术代表CS542B项目报告,不列颠哥伦比亚大学,2005年。可从获取。
[28] 斯特罗吉斯,N。;Griewank,A.,通过矩阵压缩有效评估稀疏雅可比矩阵,第二部分:实现和实验,WSEAS Trans。数学。,13, 646-653 (2014)
[29] Tibshirani,R.,《通过套索进行回归收缩和选择》,J.R.Stat.Soc.Ser。B、 58、1、267-288(1996)·Zbl 0850.62538号
[30] Tripuraneni,N.、Stern,M.、Jin,C.、Regier,J.和Jordan,M。,快速非凸优化的随机立方正则化技术代表1711.02838,2017年。arXiv公司。
[31] Walther,A.和Griewank,A。,组合科学计算,《ADOL-C入门》一章,查普曼-霍尔CRC计算科学,2012年,第181-202页。
[32] Wong,E。,二次规划的主动集方法,加州大学圣地亚哥分校博士论文,2011年。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。