×

一种求解简单约束优化问题的新型投影梯度法。 (英语) Zbl 1449.65125号

摘要:我们提出了一种新的投影类梯度方法来解决具有简单约束的最小化问题。新的搜索方向与简单约束优化问题的一阶最优性条件一致,使得搜索步长更容易确定。分析了该方法的收敛性。通过数值实验说明了该方法的性能和应用。

MSC公司:

65千5 数值数学规划方法
90立方 非线性规划
90摄氏52度 减少梯度类型的方法

软件:

LBFGS-B型
PDF格式BibTeX公司 XML格式引用
全文: DOI程序

参考文献:

[1] 安德烈亚尼(Andreani,R.)。;伯金,EG;马丁内斯,JM;Schuverdt,ML,箱约束和一般约束优化的二阶负曲率方法,计算优化应用,45209-236(2010)·Zbl 1187.90265号 ·doi:10.1007/s10589-009-9240-y
[2] 贝里,MW;布朗,M。;安大略省朗维尔市;副总裁Pauca;Plemmons,RJ,近似非负矩阵分解的算法和应用,计算统计数据分析,52,155-173(2007)·Zbl 1452.90298号 ·doi:10.1016/j.csda.2006.11.006
[3] Bertsekas,DP,《关于Goldstein-Levitin-Polyak梯度投影法》,IEEE Trans-Autom Control,21174-184(1976)·Zbl 0326.49025号 ·doi:10.1109/TAC.1976.1101194
[4] Bertsekas,DP,简单约束优化问题的投影牛顿法,SIAM J Control Optim,20,221-246(1982)·Zbl 0507.49018号 ·doi:10.1137/0320018
[5] Bertsekas,DP,非线性规划(1999),Belmont:Athena Scientific,Belmon·Zbl 1015.90077号
[6] 伯金,EG;Martínez,JM,具有谱投影梯度的大规模有源集盒约束优化方法,Comput Optim Appl,2310-125(2002)·Zbl 1031.90012号 ·doi:10.1023/A:1019928808826
[7] 伯德,RH;卢,P。;Nocedal,J。;Zhu,C.,用于边界约束优化的有限内存算法,SIAM科学计算杂志,161190-1208(1995)·Zbl 0836.65080号 ·doi:10.1137/0916069
[8] 卡拉梅,PH;莫雷,JJ,线性约束问题的投影梯度法,数学程序,3993-116(1987)·Zbl 0634.90064号 ·doi:10.1007/BF02592073
[9] Cheng,W。;陈,Z。;Li,D.,用于大规模边界约束优化的主动集截断牛顿法,计算数学应用,671016-1023(2014)·兹比尔135065058 ·doi:10.1016/j.camwa.2014.01.009
[10] 科尔曼,TF;Li,Y.,有界非线性最小化的内部信任域方法,SIAM J Optim,6418-445(1996)·Zbl 0855.65063号 ·数字对象标识代码:10.1137/0806023
[11] 连接器,AR;古尔德,NIM;Toint,PhL,一类简单界优化信赖域算法的全局收敛性,SIAM J Numer Ana,25433-460(1988)·Zbl 0643.65031号 ·doi:10.1137/0725029
[12] 连接器,AR;古尔德,NIM;Toint,PhL,用于一般约束和简单边界优化的全局收敛增广拉格朗日算法,SIAM J Numer Ana,28545-572(1991)·Zbl 0724.65067号 ·doi:10.1137/0728030
[13] 克里斯托法里,A。;De Santis,M。;卢西迪,S。;Rinaldi,F.,《有界约束优化的两阶段主动集算法》,《优化理论应用杂志》,172369-401(2017)·Zbl 1398.90170号 ·doi:10.1007/s10957-016-1024-9
[14] De Santis,M。;Di Pillo,G。;Lucidi,S.,《带约束大规模优化问题的主动集可行方法》,计算优化应用,53395-423(2012)·Zbl 1284.90075号 ·doi:10.1007/s10589-012-9506-7
[15] 法奇尼,F。;Jüdice,J。;Soares,J.,带方框约束的大规模非线性规划的主动集牛顿算法,SIAM J Optim,8158-186(1998)·Zbl 0911.90301号 ·doi:10.1137/S1052623493253991
[16] 法奇尼,F。;卢西迪,S。;Palagi,L.,大型箱约束优化的截断牛顿算法,SIAM J Optim,121100-125(2002)·Zbl 1035.90103号 ·doi:10.1137/S1052623499359890
[17] Goldstein,AA,Hilbert空间中的凸编程,Bull Am Math Soc,70,709-710(1964)·Zbl 0142.17101号 ·doi:10.1090/S0002-9904-1964-1178-2
[18] 哈格,WW;Zhang,H.,箱约束优化的一种新的主动集算法,SIAM J Optim,17526-557(2006)·Zbl 1165.90570号 ·doi:10.1137/050635225
[19] 坎佐,C。;Klug,A.,关于具有约束的非线性最小化的仿射标度内点牛顿方法,Comput Optim Appl,35177-197(2006)·Zbl 1151.90552号 ·doi:10.1007/s10589-006-6514-5
[20] Lee,DD;Seung,HS,通过非负矩阵分解学习对象的各个部分,《自然》,401,788-791(1999)·Zbl 1369.68285号 ·doi:10.1038/44565
[21] 莱维汀,ES;Polyak,BT,约束最小化问题,苏联计算数学物理,6,1-50(1966)·doi:10.1016/0041-5553(66)90114-5
[22] Lin,C-J,非负矩阵分解的投影梯度法,神经计算,192756-2779(2007)·Zbl 1173.90583号 ·doi:10.1162/neco.2007.19.10.2756
[23] 林,C-J;More,JJ,大尺度约束问题的牛顿方法,SIAM J Optim,9,1100-1127(1999)·Zbl 0957.65064号 ·doi:10.1137/S1052623498345075
[24] 麦考密克,GP;Tapia,RA,轻度可微条件下的梯度投影法,SlAM J Control,1093-98(1972)·兹比尔0237.49019 ·doi:10.1137/0310009
[25] Paatero,P。;Tapper,U.,《正矩阵因式分解:数据值误差估计的最佳利用非负因子模型》,环境计量学,5,111-126(1994)·doi:10.1002/env.3170050203
[26] 副总裁Pauca;派珀,J。;Plemmons,RJ,光谱数据分析的非负矩阵分解,线性代数应用,41629-47(2006)·Zbl 1096.65033号 ·doi:10.1016/j.laa.2005.06.025
[27] Pytlak,R.,变量有简单界的大规模非线性规划问题的有效算法,SIAM J Optim,8532-560(1998)·Zbl 0915.65060号 ·doi:10.1137/S1052623494276518
[28] Schittkowski,K.,《非线性编程代码的更多测试示例》(1987),柏林:施普林格出版社,柏林·Zbl 0658.90060号
[29] 施瓦茨,A。;Polak,E.,简单边界优化问题的投影下降法族,《最优化理论应用杂志》,92,1-31(1997)·Zbl 0886.90140号 ·doi:10.1023/A:1022690711754
[30] 王,Y。;贾毅。;胡,C。;Turk,M.,人脸识别的非负矩阵分解框架,《国际J模式识别技术》,第19期,第495-511页(2005年)·doi:10.1142/S021801405004198
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。