×

求解非线性方程组和最小化正则化问题的Perry型无导数算法。 (英语) Zbl 1470.90128号

摘要:在本文中,我们提出了一种求解非线性方程组的Perry型无导数算法。该算法基于著名的BFGS准Newton方法和修改的Perry参数。算法的全局收敛性是在不假设解集的正则性或有界性的情况下建立的。同时,如果函数是Lipschitz连续且单调的,则算法生成的迭代序列全局收敛到问题的解。对一些一般非线性方程组和凸约束非线性单调方程组的初步数值实验证明了该算法的有效性。此外,我们成功地将该算法应用于解决信号恢复问题。

MSC公司:

90立方 非线性规划
90摄氏度06 数学规划中的大尺度问题
90 C56 无导数方法和使用广义导数的方法
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 阿霍霍什,M。;阿米尼,K。;Kimiaei,M.,用于大规模无约束优化的有限内存自适应信任区域方法,Bull Iran Math Soc,42,4,819-837(2016)·兹比尔1373.90112
[2] Esmaeili,H。;Kimiaei,M.,无约束优化的改进自适应信任域方法,数学模型分析,19,4,469-490(2014)·Zbl 1488.90002号
[3] 格里波,L。;Lampariello,F。;Lucidi,S.,无约束优化中带非单调线搜索的截断牛顿法,《最优化理论应用杂志》,60,3,401-419(1989)·Zbl 0632.90059号
[4] Kimiaei,M。;Ghaderi,S.,《无约束优化的一种新的重启自适应信任域方法》,中国运营研究院学报,5,4,487-507(2017)·Zbl 1378.90004号
[5] 刘,DC;Nocedal,J.,《关于大规模优化的有限内存BFGS方法》,《数学程序》,45,1-3,503-528(1989)·兹伯利0696.90048
[6] 上田,K。;Yamashita,N.,无约束优化的无线搜索正则化牛顿法,计算优化应用,59,1-2,321-351(2014)·Zbl 1302.90218号
[7] 弗切克,J。;Lukšan,L.,基于共轭方向思想的无约束极小化的修正有限记忆BNS方法,Optim Methods Softw,30,3,616-633(2015)·Zbl 1326.90105号
[8] 弗切克,J。;Lukšan,L.,使用无限多次重复BNS更新和共轭方向的有限内存优化方法,计算应用数学杂志,351,14-28(2019)·Zbl 1440.65064号
[9] Babaie-Kafaki,S。;Ghanbari,R.,Dai-Liao共轭梯度法的一个世系,Optim methods Softw,29,3,583-591(2014)·Zbl 1285.90063号
[10] 戴,Y。;Yuan,Y.,一种具有强全局收敛性的非线性共轭梯度法,SIAM J Optim,10,1,177-182(1999)·Zbl 0957.65061号
[11] 弗莱彻,R。;Reeves,CM.,共轭梯度函数最小化,计算J,7,2,149-154(1964)·Zbl 0132.11701号
[12] 哈格,WW;Zhang,H.,一种新的保下降共轭梯度法和有效的线性搜索,SIAM J Optim,16,1,170-192(2005)·邮编1093.90085
[13] 哈格,WW;Zhang,H.,算法851:CG\(####)DESCENT,一种保证下降的共轭梯度法,ACM Trans Math Softw(TOMS),32,1,113-137(2006)·兹伯利1346.90816
[14] 赫斯特内斯,MR;Stiefel,E.,求解线性系统的共轭梯度方法,49(1952),华盛顿特区:国家统计局,华盛顿特区·Zbl 0048.09901号
[15] 波拉,E。;Ribiere,G.,《关于联合方向方法收敛的注释》,Rev Française Informat Recherche Operationelle,3e Année,16,35-43(1969)·Zbl 0174.48001号
[16] Polyak,BT.,极值问题中的共轭梯度法,苏联计算数学数学物理,9,4,94-112(1969)·Zbl 0229.49023号
[17] Perry,A.,一种改进的共轭梯度算法,Oper Res,26,6,1073-1078(1978)·Zbl 0419.90074号
[18] 爱尔兰利维埃利斯;Pintelas,P.,全局收敛的修正Perry共轭梯度法,应用数学计算,218,18,9197-9207(2012)·Zbl 1245.65068号
[19] 刘,D。;Xu,G.,对称佩里共轭梯度法,计算优化应用,56,2,317-341(2013)·Zbl 1312.90088号
[20] 爱尔兰利维埃利斯;Pintelas,P.,一种改进的Perry共轭梯度法及其全局收敛性,Optim-Lett,9,5,999-1015(2015)·Zbl 1328.90141号
[21] 姚,S。;He,D。;Shi,L.,一种改进的带自适应参数选择的Perry共轭梯度法,数值算法,78,4,1255-1269(2018)·Zbl 1396.65099号
[22] Xiao,Y。;王,Q。;Hu,Q.,基于非光滑方程的压缩传感应用范数问题方法,非线性分析理论方法应用,74,11,3570-3577(2011)·Zbl 1217.65069号
[23] 戴,Z。;陈,X。;Wen,F.,基于修正Perry共轭梯度法的无导数方法求解大型非线性单调方程,应用数学计算,270,378-386(2015)·Zbl 1410.90248号
[24] Solodov,MV,Svaiter,BF。单调方程组的全局收敛的非精确牛顿方法。重整:非光滑、分段光滑、半光滑和平滑方法。施普林格;1998年,第355-369页。
[25] 袁,N.,解凸约束单调方程的无导数投影方法,科学亚洲,43,3,195-200(2017)
[26] Barzilai,J。;Borwein,JM.,两点步长梯度法,IMA J Numer Ana,8,1,141-148(1988)·Zbl 0638.65055号
[27] 上午Awwal;库玛姆,P。;Abubakar,AB.,凸约束单调非线性方程的修正共轭梯度法,应用数值数学,145507-520(2019)·Zbl 1477.65079号
[28] 阿米尼,K。;法拉马齐,P。;Pirfalah,N.,具有最优性质的修正Hestenes-Stiefel共轭梯度法,Optim Methods Softw,34,4,770-782(2019)·Zbl 1461.65114号
[29] 戴,Z。;Zhu,H.,大型非线性单调方程的修正Hestenes-Stiefel型无导数方法,数学,8,2,168(2020)
[30] 戴,Z。;Wen,F.,Armijo线搜索的修正Hestenes-Stiefel非线性共轭梯度方法的全局收敛性,Numer Algorithms,59,179-93(2012)·Zbl 1238.65052号
[31] Abubakar,AB;库马姆,P。;Mohammad,H.,凸约束单调非线性方程的有效共轭梯度方法及其应用,数学,7,9777(2019)
[32] 上午Awwal;库玛姆,P。;Abubakar,AB.,解单调非线性方程组的谱修正Polak-Ribiére-Polyak投影共轭梯度法,应用数学计算,362(2019)·Zbl 1433.65109号
[33] 上午Awwal;库玛姆,P。;Abubakar,AB;Wakili,A.,凸约束单调非线性方程的投影Hestenes-Stiefel-like方法,泰国数学杂志,181199(2019)·Zbl 1463.90204号
[34] 上午Awwal;库玛姆,P。;Abubakar,AB,凸约束单调非线性方程组的一种新的混合谱梯度投影方法,泰国数学杂志,16,4,125-147(2018)·Zbl 1463.90205号
[35] 上午Awwal;Wang,L。;Kumam,P.,非线性单调方程组和图像去模糊问题的两步谱梯度投影法,《对称》,12,6,874(2020)
[36] 南卡罗来纳州贝拉维亚。;Morini,B.,大型有界约束非线性方程的子空间信赖域方法,SIAM J Numer Ana,44,4,1535-1555(2006)·Zbl 1128.65033号
[37] Mohammad,H.,凸约束非线性单调方程的对角线PRP型投影方法,J Indust Manage Optim·Zbl 1474.49070号
[38] 袁,G。;卢,J。;Wang,Z.,带修正WWP线搜索的PRP共轭梯度算法及其在图像恢复问题中的应用,应用数值数学,152,1-11(2020)·Zbl 07173158号
[39] Zheng,L.,求解凸约束非线性方程组的新投影算法,Bull Korean Math Soc,50,3,823-832(2013)·Zbl 1273.90158号
[40] Nocedal,J。;Wright,S.,《数值优化》(2006),纽约(NY:Springer Science&Business Media,纽约(纽约)·Zbl 1104.65059号
[41] 张,L。;周,W。;Li,D-H.,下降修正Polak-Ribière-Polyak共轭梯度法及其全局收敛性,IMA J Numer Ana,26,4,629-640(2006)·Zbl 1106.65056号
[42] Zarantonello,EH。希尔伯特空间中凸集上的投影和谱理论:第一部分。凸集上投影:第二部分。光谱理论。对非线性函数分析的贡献。爱思唯尔;1971年,第237-424页·Zbl 0281.47043号
[43] Dolan,ED;JJ莫雷。,用性能曲线对标优化软件,数学程序Ser,91,201-213(2002)·邮编:1049.90004
[44] 莫雷,JJ;Wild,SM.,《无衍生优化算法基准测试》,SIAM J Optim,20,1,172-191(2009)·Zbl 1187.90319号
[45] 高,P。;他,C。;Liu,Y.,约束单调非线性方程的自适应投影方法及其应用,应用数学计算,359,1-16(2019)·Zbl 1429.65107号
[46] 刘杰。;Feng,Y.,凸约束非线性单调方程的无导数迭代方法,数值算法,82,1,245-262(2019)·Zbl 1431.65073号
[47] Figueiredo,MAT;罗德岛诺瓦克;Wright,SJ.,《稀疏重建的梯度投影:压缩传感和其他逆问题的应用》,IEEE J Sel Top Signal Process,1,4,586-597(2007)
[48] 庞,JS。,非线性互补问题的非精确牛顿方法,数学程序,36,1,54-71(1986)·Zbl 0613.90097号
[49] SJ赖特;罗德岛诺瓦克;Figueiredo,MAT.,通过可分离近似进行稀疏重构,IEEE Trans Signal Process,57,7,2479-2493(2009)·Zbl 1391.94442号
[50] 戴,Z。;周浩,《股票收益预测:部分总和法和经济约束法》,《可持续发展》,第12期,第2541页(2020年)
[51] 戴,Z。;Zhu,H.,从混合模型的角度看股票回报的可预测性,《太平洋-盆地金融杂志》,60(2020)
[52] Lukšan,L,Matonoha,C,Vlcek,J.非线性最小二乘和非线性方程的问题。技术报告、技术报告;2018. ·Zbl 1072.65082号
[53] 李,D。;Fukushima,M.,对称非线性方程的全局超线性收敛Gauss-Newton基BFGS方法,SIAM J Numer Ana,37,1,152-172(1999)·Zbl 0946.65031号
[54] 上午Awwal;Wang,L。;Kumam,P.,非线性单调方程和信号处理的谱参数投影Hestenes-Stiefel方法,数学计算应用,25,2,27(2020)
[55] La Cruz,W.,大型非线性单调方程组的谱算法,数值算法,76,4,1109-1130(2017)·Zbl 1382.65143号
[56] 周,W。;Shen,D.,对称非线性方程的不精确PRP共轭梯度法,数值函数分析优化,35,3,370-388(2014)·Zbl 1320.90087号
[57] Yu,G。;牛,S。;Ma,J.,凸约束非线性单调方程的多元谱梯度投影法,《工业管理优化杂志》,9,1,117-129(2013)·Zbl 1264.49037号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。