×

低秩谱集上的矩阵优化:平稳点和局部和全局极小值。 (英语) Zbl 1432.90124

摘要:在本文中,我们考虑将变量作为约束到低秩谱集的矩阵进行矩阵优化,其中低秩光谱集是低秩集和光谱集的交集。考虑了三个典型的谱集,得到了三个低秩谱集。对于每个低秩谱集,我们首先计算给定点在该集上的投影及其法锥公式,然后在此基础上研究低秩光谱集上矩阵优化的诱导驻点。最后,我们揭示了每个驻点和每个局部/全局极小值之间的关系。

MSC公司:

90C26型 非凸规划,全局优化
90立方 非线性规划
90立方厘米 数学规划中的最优性条件和对偶性
PDF格式BibTeX公司 XML格式引用
全文: 内政部 链接

参考文献:

[1] Recht,B。;法泽尔,M。;Parrilo,Pa,通过核范数最小化保证线性矩阵方程的最小秩解,SIAM Rev.,52,3,471-501(2010)·Zbl 1198.90321号 ·数字对象标识代码:10.1137/070697835
[2] Markovsky,I.,低阶近似(2012),伦敦:施普林格,伦敦·Zbl 1245.93005号
[3] 丁,C.:介绍一类矩阵优化问题。新加坡国立大学博士论文(2012年)
[4] 尤德尔,M。;喇叭,C。;扎德,Rb;Boyd,Sp,广义低秩模型,马赫数。学习。,9, 1, 1-118 (2016) ·兹比尔1350.68221 ·doi:10.1561/22000055
[5] Ma Davenport;Romberg,J.,《从不完全观测中恢复低秩矩阵的概述》,IEEE J.Sel。顶部。信号处理。,10, 4, 608-622 (2016) ·doi:10.1109/JSTSP.2016.2539100
[6] Fazel,M.:矩阵秩最小化与应用。斯坦福大学博士论文(2002)
[7] 坎迪斯(Ej Candès);Tao,T.,《凸松弛的幂:近似最优矩阵完备》,IEEE Trans。《信息论》,56,5,2053-2080(2010)·Zbl 1366.15021号 ·doi:10.1109/TIT.2010.2044061
[8] 马亚诺维奇,G。;Solo,V.,《关于(l_q)优化和矩阵补全》,IEEE Trans。信号处理。,60, 11, 5714-5724 (2012) ·Zbl 1393.94353号 ·doi:10.1109/TSP.2012.212015
[9] 莫汉,K。;Fazel,M.,矩阵秩最小化的迭代重加权算法,J.Mach。学习。研究,11月13日,3441-3473(2012)·Zbl 1436.65055号
[10] Nie,F.、Wang,H.、Cai,X.、Huang,H.和Ding,C.:通过联合schatten p-范数和(l_p)-范数最小化实现鲁棒矩阵完备。摘自:IEEE数据挖掘国际会议,第566-574页(2012年)
[11] 陈,Y。;修,N。;Peng,D.,半正定锥上非lipschitz(s_2-s_p)极小的整体解,Optim。莱特。,8, 7, 2053-2064 (2014) ·兹比尔1326.90063 ·doi:10.1007/s11590-013-0701-y
[12] 赵永斌,矩阵秩极小化逼近理论及其在二次方程中的应用,线性代数应用。,437, 1, 77-93 (2012) ·Zbl 1242.65086号 ·doi:10.1016/j.laa.2012.02.021
[13] 姚,H。;借记,Z。;杰平,Y。;雪龙,L。;Xiaofei,H.,通过截断核范数正则化快速准确地完成矩阵,IEEE Trans。模式分析。机器。智力。,35, 9, 2117-2130 (2013) ·doi:10.1109/TPAMI.2012.271
[14] Burer,S。;Monteiro,Rdc,通过低秩因式分解求解半定规划的非线性规划算法,数学。程序。,95, 2, 329-357 (2003) ·Zbl 1030.90077号 ·doi:10.1007/s10107-002-0352-8
[15] Journée,M。;巴赫,F。;绝对压力,Pa;Sepulchre,R.,半正定矩阵锥上的低秩优化,SIAM J.Optim。,20, 5, 2327-2351 (2010) ·Zbl 1215.65108号 ·doi:10.1137/080731359
[16] 温,Z。;尹,W。;Zhang,Y.,用非线性逐次过松弛算法求解矩阵补全的低阶因式分解模型,Math。程序。计算。,4, 4, 333-361 (2012) ·兹比尔1271.65083 ·doi:10.1007/s12532-012-0044-1
[17] Jain,P.、Netrapalli,P.和Sanghavi,S.:使用交替最小化完成低秩矩阵。摘自:第四十五届ACM计算机理论年会论文集,第665-674页。ACM(2013)·Zbl 1293.65073号
[18] Hardt,M.:了解矩阵补全的交替最小化。2014年IEEE第55届计算机科学基础年会(FOCS),第651-660页。IEEE(2014)
[19] 孙,R。;Luo,Z.,通过非凸因子分解保证矩阵完成,IEEE Trans。Inf.Theory,62,11,6535-6579(2016)·Zbl 1359.94179号 ·doi:10.1109/TIT.2016.2598574
[20] Gao,Y.:结构化低秩矩阵优化问题:惩罚方法。新加坡国立大学博士论文(2010年)
[21] Kim,Sj;月亮,Yh,结构受限\({H} _2\)和\({高}_{\f5)控制:秩约束的LMI方法,Automatica,42,91583-1588(2006)·Zbl 1128.93325号 ·doi:10.1016/j.automatica.2006.03.017
[22] 德尔加多,Ra;阿圭罗,Jc;Goodwin,Gc,《等级约束优化方法:应用于因子分析》,IFAC Proc。第47卷,第3卷,第10373-10378页(2014年)·doi:10.3182/20140824-6-ZA-1003.02690
[23] 毕,S。;Pan,S.,秩约束优化问题和应用的误差界,Oper。Res.Lett.公司。,44, 3, 336-341 (2016) ·Zbl 1408.90279号 ·doi:10.1016/j.orl.2016.03.002
[24] 周,S。;秀,N。;Qi,H.,一种用于箱约束惩罚应力最小化的快速矩阵优化投影方法,IEEE Trans。信号处理。,66, 16, 4331-4346 (2018) ·Zbl 1414.90260号 ·doi:10.1109/TSP.2018.2849734
[25] Luke博士,秩约束集的Prox-regulatory和算法的含义,J.Math。成像视觉。,47, 3, 231-238 (2013) ·Zbl 1311.90142号 ·doi:10.1007/s10851-012-0406-3
[26] Rockafellar,Rt;Wets,Rj,变分分析(1998),柏林:施普林格,柏林·Zbl 0888.49001号
[27] 酪蛋白,Tp;绝对压力,Pa;Dooren,Pv,图相似矩阵低阶近似的迭代方法,线性代数应用。,438, 4, 1863-1882 (2013) ·Zbl 1264.65060号 ·doi:10.1016/j.laa.2011.12.004
[28] 施耐德,R。;Uschmajew,A.,通过łojasiewicz不等式在各种低秩矩阵上投影线性搜索方法的收敛结果,SIAM J.Optim。,25, 1, 622-646 (2015) ·Zbl 1355.65079号 ·doi:10.1137/140957822
[29] 周,G。;黄,W。;Ka Gallivan;范杜伦,P。;Absil,Pa,用于低阶优化的黎曼等级自适应方法,神经计算,192,72-80(2016)·doi:10.1016/j.neucom.2016.02.030
[30] 李,X。;Song,W。;Xiu,N.,秩约束矩阵优化的最优性条件,J.Oper。中国研究社会,7,2,285-301(2019)·Zbl 1438.90272号 ·doi:10.1007/s40305-019-00245-0
[31] Linial,N。;伦敦,E。;Rabinovich,Y.,图的几何及其算法应用,组合数学,15,2,215-245(1995)·兹比尔0827.05021 ·doi:10.1007/BF01200757
[32] Biswas,P.,Ye,Y.:用于无线传感器网络定位的半定规划。In:传感器网络信息处理国际研讨会(2004)·Zbl 1100.90029号
[33] Ji,S.,Sze,K.F.,Zhou,Z.,So,M.C.,Ye,Y.:超越凸松弛:网络定位的多项式时间非凸优化方法。收录:IEEE Infocom(2013)
[34] 博斯多夫,R。;新泽西州海姆;Raydan,M.,用因子结构计算最近相关矩阵,SIAM J.矩阵分析。申请。,31, 5, 2603-2622 (2010) ·Zbl 1213.65022号 ·数字对象标识代码:10.1137/090776718
[35] Higham,Nj,计算最近相关矩阵金融问题,IMA J.Numer。分析。,22, 3, 329-343 (2018) ·Zbl 1006.65036号 ·doi:10.1093/imanum/22.3329
[36] 杜卡诺维奇,I。;Rendl,F.,图着色和最大团问题的半定规划松弛,数学。程序。,109, 2-3, 345-365 (2007) ·Zbl 1278.90299号 ·doi:10.1007/s10107-006-0026-z
[37] 卡列夫,A。;科苏特,Rl;Deutsch,Ih,Quantum tomography协议是压缩传感协议,Nat.Partn。《量子信息杂志》,第1期,第115018页(2015年)·doi:10.1038/npjqi.2015.18
[38] Lewis,As,群不变性和凸矩阵分析,SIAM J.矩阵分析。申请。,17, 4, 927-949 (1996) ·Zbl 0876.15016号 ·doi:10.1137/S0895479895283173
[39] Tam,Mk,非负稀疏集的正则性,J.Math。分析。申请。,447, 2, 758-777 (2017) ·Zbl 1353.15030号 ·doi:10.1016/j.jmaa.2016.10.040
[40] Lu,Z。;Zhang,Y。;Li,X.,秩最小化的惩罚分解方法,Optim。方法软件。,2015年3月30日,531-558·Zbl 1323.65070号 ·doi:10.1080/10556788.2014.936438
[41] Kyrillidis,A.:稀疏和低秩逆问题的严格优化配方及其在数据科学中的应用。洛桑高等技术学院博士论文(2014)
[42] Mordukhovich,Bs,《变分分析与广义微分学I:基础理论》(2006),柏林:施普林格出版社,柏林
[43] Hiriart-Urruti,Jb;Lemaréchal,C.,《凸分析基础》(2012),柏林:施普林格出版社,柏林
[44] Drusvyatskiy,D。;Kempton,C.,简化谱函数的变分分析,J.凸分析。,25, 1, 119-134 (2018) ·Zbl 1398.49012号
[45] Lu,Z.:通过非单调投影梯度法对稀疏对称集进行优化(2015)。arXiv预打印arXiv:1509.08581
[46] 潘·L。;秀,N。;Fan,J.,稀疏非线性规划的最优性条件,科学。中国数学。,60, 5, 1-18 (2017) ·Zbl 1365.90220号 ·doi:10.1007/s11425-016-9010-x
[47] 贝克,A。;Eldar,Yc,《稀疏约束非线性优化:优化条件和算法》,SIAM J.Optim。,23, 3, 1480-1509 (2013) ·Zbl 1295.90051号 ·数字对象标识代码:10.1137/120869778
[48] 角,Ra;Johnson,Cr,矩阵分析(2013),纽约:剑桥大学出版社,纽约·Zbl 1267.15001号
[49] 潘·L。;周,S。;秀,N。;Qi,Hd,用于非负稀疏性优化的收敛迭代硬阈值,Pac。J.Optim。,13, 2, 325-353 (2017) ·Zbl 1384.90078号
[50] Bertsekas,Dp,非线性规划(1999),贝尔蒙特:雅典娜科学出版社·Zbl 1015.90077号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。