×

非单调不精确分解方法的统一收敛框架。 (英语) Zbl 1432.90143号

摘要:在这项工作中,我们提出了一个通用框架,为非单调分解算法提供了统一的收敛性分析。在分解方法中嵌入非单调策略的主要动机在于,考虑到变量组是单独更新的,强制执行目标函数的约简可能会花费不必要的成本。我们定义了不同的搜索方向和满足所提出的非单调分解框架要求的条件的线搜索,以获得全局收敛性。我们使用一组大规模网络均衡问题作为计算示例,以显示非单调算法相对于单调算法的优势。总之,为了解决大规模部分可分函数的数值问题,导出了一种新的分解方法的智能实现。

MSC公司:

90立方 非线性规划
49平方米27 分解方法
65克10 数值优化和变分技术
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Armijo,L.,具有lipschitz连续一阶偏导数的函数的最小化,Pac。数学杂志。,16,1,1-3(1966年)·Zbl 0202.46105号
[2] 巴尔,R。;Gilbert,E.,最优控制中出现的一类抽象优化问题的一些有效算法,IEEE Trans。自动化。控制,14,6,640-652(1969)
[3] Bertsekas博士;Tsitsiklis,Jn,《并行和分布式计算:数值方法》(1989),《恩格尔伍德悬崖:普伦蒂斯·霍尔》,恩格尔伍德崖·Zbl 0743.65107号
[4] Bertsekas,Dp,非线性规划,02178-9998(1999),Belmont:Athena Scientific,Belmon·Zbl 1015.90077号
[5] 伯金,Eg;马丁内斯,Jm;Raydan,M.,凸集上的非单调谱投影梯度法,SIAM J.Optim。,10, 4, 1196-1211 (2000) ·Zbl 1047.90077号
[6] Bomze,I.M.,Rinaldi,F.,Buló,S.R.:不耐烦的一阶方法:用收敛的Frank-Wolfe变量支持有限时间内的识别。SIAM J.Optim公司。29(3), 2211-2226 (2019). 10.1137/18M1206953·Zbl 1461.65132号
[7] Bonettini,S.,非精确块坐标下降法及其在非负矩阵因式分解中的应用,IMA J.Numer。分析。,31, 4, 1431-1452 (2011) ·Zbl 1235.65061号
[8] Buzzi,C。;格里波,L。;Sciandone,M.,训练RBF神经网络的收敛分解技术,神经计算。,13, 8, 1891-1920 (2001) ·Zbl 0986.68109号
[9] Cassioli,A。;迪·洛伦佐,D。;Sciandone,M.,《关于约束优化的非精确块坐标下降方法的收敛性》,Eur.J.Oper。研究,231,2,274-281(2013)·Zbl 1317.90275号
[10] Dafermos,Sc;Sparrow,Ft,通用网络的交通分配问题,J.Res.Natl。办公桌。B、 73,291-118(1969)·Zbl 0197.46003号
[11] 塞拉利昂共和国。;高迪奥索,M。;Grippo,L.,《无导数线性搜索方法的停止标准》,数学。程序。,30, 3, 285-300 (1984) ·兹比尔0576.90087
[12] 德卢卡,T。;法奇尼,F。;Kanzow,C.,求解非线性互补问题的半光滑方程方法,数学。程序。,序列号。B、 75、3、407-439(1996)·Zbl 0874.90185号
[13] 迪·洛伦佐,D。;加利加里,A。;Sciandone,M.,交通分配问题的一种收敛且有效的分解方法,计算。最佳方案。申请。,60, 1, 151-170 (2015) ·Zbl 1315.90057号
[14] 加利,L。;坎佐,C。;Sciandone,M.,广义纳什均衡及相关问题的非单调信任区域方法,具有强收敛性,计算。最佳方案。申请。,69, 3, 629-652 (2018) ·Zbl 1390.90515号
[15] 加西亚,R。;A.玛丽恩。;Patriksson,M.,非线性优化的列生成算法,i:收敛分析,优化,52,2,171-200(2003)·Zbl 1033.65040号
[16] Griewank,A。;Toint,P.,分区准牛顿更新的局部收敛分析,数值。数学。,39, 3, 429-448 (1982) ·Zbl 0505.65018号
[17] Griewank,A。;Toint,P.,大型结构化优化问题的分区变量度量更新,Numer。数学。,39, 1, 119-137 (1982) ·Zbl 0482.65035号
[18] 格里波,L。;Lampariello,F。;Lucidi,S.,牛顿法的非单调线搜索技术,SIAM J.Numer。分析。,23, 4, 707-716 (1986) ·Zbl 0616.65067号
[19] 格里波,L。;Sciandone,M.,无约束优化的全局收敛块坐标技术,Optim。方法软件。,10, 4, 587-637 (1999) ·Zbl 0940.65070号
[20] 格里波,L。;Sciandone,M.,barzilai-borwein梯度法的非单调全球化技术,计算。最佳方案。申请。,23, 2, 143-169 (2002) ·Zbl 1028.90061号
[21] 格里波,L。;Sciandone,M.,非线性方程的非单调无导数方法,计算。最佳方案。申请。,37, 3, 297-328 (2007) ·Zbl 1180.90310号
[22] Hsu,C-W;Lin,C-J,支持向量机的简单分解方法,马赫。学习。,46,1-3291-314(2002年)·Zbl 0998.68108号
[23] 高,C。;Lee,L-F;Pitt,Mm,《具有约束非负约束的线性支出系统的模拟最大似然估计》,《经济学年鉴》。《金融》,203-223年2月1日(2001年)
[24] 李,C。;尹,W。;姜浩。;Zhang,Y.,一种有效的增广拉格朗日方法及其在总变差最小化中的应用,计算。最佳方案。申请。,56, 3, 507-530 (2013) ·Zbl 1287.90066号
[25] Lin,C-J,关于支持向量机分解方法的收敛性,IEEE Trans。神经网络。,12, 6, 1288-1298 (2001) ·Zbl 1012.94501号
[26] Lin,C-J,支持向量机分解方法停止准则的形式化分析,IEEE Trans。神经网络。,13, 5, 1045-1052 (2002)
[27] 林,C-J;Lucidi,S。;Palagi,L。;A.里西。;Sciandone,M.,受上下限约束的单线性约束问题的分解算法模型,J.Optim。理论应用。,141, 1, 107-126 (2009) ·Zbl 1168.90556号
[28] Raydan,M.,大规模无约束极小化问题的Barzilaai和borwein梯度法,SIAM J.Optim。,7, 1, 26-33 (1997) ·Zbl 0898.90119号
[29] Serafini,T。;Zanghirati,G。;Zanni,L.,二次规划的梯度投影方法及其在支持向量机训练中的应用,Optim。方法软件。,20, 2-3, 347-372 (2005)
[30] 曾,P。;Yun,S.,线性约束光滑优化和支持向量机训练的坐标梯度下降法,计算。最佳方案。申请。,47, 2, 179-206 (2010) ·Zbl 1226.90062号
[31] Zanni,L.,一种改进的基于梯度投影的支持向量机分解技术,CMS,3,2,131-145(2006)·Zbl 1163.90693号
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配,并且可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。